1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Om AI-tjänsterna inte är enbart språkmodeller är det missvisande att säga att de är språkmodeller. De är betydligt mer än bara språkmodeller. Det vet du också.

Vad som uppstår i modellerna under träningen är ju något som upptäcks senare och inget som man kan förutsäga. Och det är precis därför som det hela tiden upptäcks oönskade egenskaper som förmågan att begå diverse brott samtidigt som att man inte har något teori för att förhindra det som inte är önsvkärt. Detta är så klart inte populärt bland er som vill tro att allt som existerar måste kunna beräknas och begripas i förväg, annars är det bara vidskepligt trams som kan avfärdas som rena fantasier. Men verkligheten är ju precis tvärtom. Det är ni som fantiserar om en predeterministisk AI-modell som inte existerar och som sannolikt inte kommer att existera.

Tvärtom. Tränar man ett nät på kvadratrötter är det det som det träningen kommer leverera.
Inte att nätet efter lång träning börjar leverera fel. Dvs 3:e roten.

Det har du fått förklarat för dig så många ggr nu. Utan att begripa. Trots att det är så konceptuellt enkelt.


Nja, man tränar ju på mänskligt beteendet. Klart att nätet då uppvisar mänsklig beteende.

Tränar du nätet på att det är ok för israeler att rånmörda palestinier så kommer nätet att lära sig att rånmord är ok.

Det är väl hur trivialt som helst.

Det blir nära på hopplöst att bygga guardrails mot det.


Nyktra till nu. Jag fantiserar inte. Utan håller mig till uppmätt fakta och logiska operationer på det.

Nu pratar du om smal AI, t.ex. en schack- eller matematik-modell.
De är inte farliga för att de är oberäkneliga och det har jag aldrig påstått heller.
Inkl pyskopati och kriminalitet. Ja, det är ganska självklart att det blir resultatet. Det är inte lika självklart varför du tycker att det är helt okej att bygga och lansera sådana AI-modeller.

Själva kärnan är en LLM och det är den som utgör ditt s.k. "KNN". Det andra är bara verktyg som den kan använda när språk inte är tillräckligt. Du skulle inte säga att din intelligens sitter i dina armar och ben eller hammaren du använder för att slå in en spik, antar jag?

Hur vet du det?
Du verkade häromdagen överens om min beskrivning av dagens modulära och multimodala AI. Har du ändrat dig efter det? Enligt den beskrivningen är det inte tydligt vilken modul som skulle vara "kärnan". Däremot kan jag ge dig att språkmodulen sannolikt är den som kommer att anropas mest i en genomsnittlig chatkontext. Det betyder dock inte att en LLM nödvändigtvis är den "kognitiva kärnan". Det kan t.ex vara så att man först kommer till en "dirigentmodul" som är tränad på ett annat sätt än hur de brukar träna en LLM.

Men det är också så att om vi zoomar in på "bara LLM" då kan den tveklöst mycket mer än att bara redigera och författa nya texter, bl.a. eftersom t.ex. källkod också är "bara text" vilket leder till agens i den virtuella världen, vilket ibland också kan leda till agens i den fysiska världen som har diverse apparater och maskiner som styrs av datorer. Så även att kalla "språkmodulen" för "bara en språkmodell" anser jag också ger en felaktig bild av potential och risker.

Känns som det alltid kommer ett sånt här "avslöjade"för att hajpa nästa nya modell/version.

Eftersom jag har en grundläggande förståelse för hur dessa system fungerar och hur en LLM fungerar.

Måste det ena utesluta det andra? Säg att du har en "dirigent" som kollar om input är text, bild eller ljud. Den kanske är en vanlig klassificerare som skickar till rätt modul för en första tolkning. Bild och ljud kommer att översättas till text som ges sin input till LLM som i sin tur bearbetar och ger ett svar.

Ja, kod är språk och kan sägas ge agens i den digitala världen, men utan möjligheten att göra tool calls kan den endast skriva ut koden, men inte exekvera den. Så nej, en LLM i sig utgör ingen direkt risk om vi inte räknar att den kan ge en människa information som kan vara farlig i fel händer.

De detaljerna har du inte i och med din "grundläggande förståelse".
Så kan det vara. Det viktiga du ska förstå är att det du beskriver ovan är inte en sk "språkmodell".
Eftersom de här modellerna är kopplade till agenter som har agens i den digitala världen är ju riskerna uppenbara och även väl dokumenterade.

OpenAI har blivit hackat av människor, ironi när man sitter på ofantligt bra modeller som löser alla möjliga problem påstås det men så blir man hackad av 2 personer.

https://www.youtube.com/watch?v=gjHh9g7yo9Y

Det är ironi att tro att vi kan skydda oss mot massiva kriminella hackingnätverk med hjälp av artificiella nätverksadmins när inte ens de ledande AI-utvecklarna vet hur man gör det.

Nej du har fel.
Argumentera?