När når vi AGI?

Psykos är ett bättre ord. Hallucination föreslår att AI:n ser syner som inte finns. Men så är det ju inte. AI/ANN skapar inte minnestunga bilder i onödan. Den har ju snarare interna mekanismer som påminner om tankar eller slutledningar som ibland spårar ur fullständigt. Det blir helt tokigt. Helt galet. När människor drabbas av det kallas det psykos.

Det är mer användaren av systemet som kan tro den hallucinerar isåfall när den spottar ur sig felaktigheter.

Jag brukar säga att modellen "gissar fel" i stället för att den "hallucinerar". Jag gillar inte att vissa säger att den **fabulerar** eller **ljuger**, eftersom de antyder en avsikt som vi inte kan visas hos dagens modeller.

Jag misstänker att du generellt vänder dig mot ord som förmänskligar modellens beteende. I så fall kanske du föredrar att säga att den "genererar ogrundad information" eller "ger ett svar som saknar stöd både i träningsdata och RAG-databassökning".

Med ordet "gissar" menar jag bara att modellen generaliserar utifrån träningsdata och den aktuella kontexten, dvs interpolerar eller extrapolerar. När det går fel kan man säga att den "generaliserade felaktigt" eller "extrapolerade bortom vad underlaget stödde".

Undviker du även andra antropomorfiska uttryck om datorer? T.ex. "minns" (säger du lagrar data istället?), "beslutar" (säger du att program gör val eller selektioner istället?), "ser", "hör"? Vad säger du när vi andra säger att LLM resonerar, tränas, förstår, lär sig osv?

Var drar du gränsen? Vilka sådana uttryck tycker du bör undvikas, och vad skulle du använda i stället?

Om hallucinationer kommer ifrån RNN så torde termen härledas till audiovisuella felaktigheter. Som vanligt blir allting konstigt när det handlar om att tillskriva LLM mänskliga egenskaper.

Ja, det är nog bättre att betrakta ANN som opålitliga digitala aliens, det stämmer mer med verkligheten att att jämföra med oss människor.

Men det är en väldigt vanlig och tydlig bugg; den spottar ur sig faktoider med stor självsäkerhet. Det är otvetydigt vad en hallucination betyder med LLM:er.


Istället för ”språkmodellen hallicunerar” antecknar jag här ”språkmodellen psykos” som förslag från Flashbacks intelligensreserv. Psykos tillskriver modellerna något mänskligt, vilket är långt ifrån hur dessa modeller faktiskt fungerar. Oavsett deras emergenta egenskaper.

Ett vänligt tips ska du få av storebror; Använd gärna ordet LLM eller AI som normalt folk, istället för det bredare ANN. Det är på gränsen omöjligt att förstå vad du pratar om. Det är väl tekniskt korrekt att kalla LLM:er ANNs, men det är lika obegripligt som att kalla det Mjukvara, Matriser, Matematiken, eller dylika generella begrepp. Tack på förhand.

Vi har inget ord för psykotiska artificiella neurala nätverk. Då får vi använda de orden vi har. Inte för att de orden är perfekta för ändamålet, utan för att de bäst förmedlar vad vi pratar om. Vi kan också hitta på nya ord. Men det hjälper ju inte de som inte känner till ditt nya ord.
Det stämmer att ANN inte är en speciellt etablerad förkortning. Men jag kommer inte därför sprida dimridåer och fake news genom att kalla de "språkmodeller". Då skriver jag hellre Artificiella Neurala Nätverk.

Har du slutat skriva dina inlägg med ChatGPT nu? Det blev plötsligt mycket mer smädelser och personangrepp och inga spår egentligen av något akademiskt språk.

Kanske det men ordet 'bugg' var exakt småkryp i maskineriet. Hallucinationer är tveksamt då det inte kan överföras ifrån RNN -> ANN. Ett bättre informellt ord måste finnas.

Viktigt att hitta ett ord som skönmålar AI:n som en snäll och hjälpsam assistent? 🤷🏻‍♂️

Asbsolut. Systemet "glitchar", inte "hallucinerar". Gäller för alla neurala nätverk.

Utpressning = hosta
Mordförsök = förkylning
Krig = fred
Slaveri = frihet

// GPT 19.84

Ja, ungefär så. När intentionerna inte är kausala.