Stora språkmodeller - Teknik och Utveckling

3Blue1Brown släppte precis ytterligare en del i sin serie som förklarar i detalj hur GPT fungerar, väldigt bra illustrerat och påläst som vanligt.

https://www.youtube.com/watch?v=wjZofJX0v4M

LLama3 släpptes i kväll. Bra förbättring på den minsta modellen (8b).

https://llama.meta.com/llama3/

Det här kommer att sluta illa. Metas approach till AI-säkerhet är:
"Jaså, vill du ha säker AI. Det är ditt problem, inte vårt problem".

Deras nya AI-modell Llama 3 är uppenbart inte internt säker att använda. Deras lösning är att applicera externa verktyg (Llama Guard 2) för att försöka göra den mer säker, och att luta sig mot ansvarsfullt nyttjande där den som använder Open Source-modellen förväntas att själv filtrera och tvätta all kommunikation med modellen från osäkert och destruktivt innehåll: "we recommend thorough checking and filtering of all inputs to and outputs from LLMs based on your unique content guidelines".

Vem är uppdaterad på Hamas, Irans, Nordkoreas och maffians senaste "content guidelines"?

Hur kontrollerar vi slarvig och naiv användning av busiga scriptkids som kan få destruktiva konsekvenser?

Jag trodde inte det var möjligt att bli sämre än Sam Altman på detta men det gick tydligen. Skiten är officiellt träffat fläkten.

Källa:

Trust & safety
A comprehensive approach to responsibility
With the release of Llama 3, we’ve updated the Responsible Use Guide (RUG) to provide the most comprehensive information on responsible development with LLMs. Our system-centric approach includes updates to our trust and safety tools with Llama Guard 2, optimized to support the newly announced taxonomy published by MLCommons expanding its coverage to a more comprehensive set of safety categories, Code Shield, and Cybersec Eval 2.
In line with the principles outlined in our RUG, we recommend thorough checking and filtering of all inputs to and outputs from LLMs based on your unique content guidelines for your intended use case and audience.

https://llama.meta.com/llama3/

P(doom) += 25%

Att använda verktyg vid sidan av den tränade modellen gör alla.

Du framstår som hysterisk eller så har du någon oklar agenda.

Han har trollat sedan dag ett, bara ignorera det kommer inget vettigt ur honom någonsin.