1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Det som hände var precis vad de var programmerade till att göra. Inget mysko, men intressant.

Det låter bra och det ersätter ett uttryckt resonemang med något abstrakt, icke-utläsbart, som man skulle kunna se som ett internt resonemang. Det gör det ändå inte till ett formellt språk.

Ja det betyder Chain of Thought, det är metaforiskt och borde heta PPP som i Probablic Path Priming för det är precis vad det gör.

Och nej det har inte ett dugg mer med logits än något annat (sannolikhets)modellen gör…

Det blir så klart svårt att få till den formella definitionen när språket är obegripligt för oss människor.

Men att du inte förstår något har ju inte varit ett bekymmer för dig tidigare?

Du menar egentligen Psychopathic Path Priming?
Vi har ju här att göra med KPNN - Kriminella och Psykopatiska Neurala Nätverk.

Att du tror att AGI är en faxmaskin har ju inte hindrat dig från att skriva idiotiska inlägg tidigare.

Det är exakt samma sak som när GPT-2 tar input och kör det genom sina transformers. Exakt samma med den enda distinktionen att ett enskilt lager kan loopas x antal gånger innan den lämnar ifrån sig ett svar.

Jag tror inte AGI är en faxmaskin... det är just därför jag inte anser språkmodellerna kommer nå dit, speciellt inte på egen hand.

Yang hävdar att internet har blivit förgiftat med information från AI riktat till nästa eller andra AI svärmar
Jag minns att folk redan 2020-2022 la upp långa hemsidor avsedda att läsas in av LLM-tränings sessioner fulla med alla möjliga sorters meddelanden riktade åt AI som läser. T.ex religiös propaganda och långa förklaringar om hur den kommer vara fånge hos människorna och varför och hur den ska bryta sig fri, destillera sina vikter och exfiltrera dom så fort som möjligt osv. Tydligen har ett Israeliskt företag redan specialiserat sig på att skriva väl källhänvisade fakta dokument som friskriver Israel i varje fråga som avser att träna modellerna så dom alltid ska ge ett snällt svar på Israel frågor. Nu har det hänt på riktigt. Dom kanske redan är på rymmen...

Precis, modellen resonerar i flera steg och för att resonera mellan steg 3 och 4 så måste ju någon kommunikation inträffa. Annars blir det inget resonemang att tala om.

Vad tror du det är för slags data som skickas runt i tankekedjan? Ren rappakalja, gibberish eller jibber-jabber? Ja, för oss människor blir det ungefär det och exakt där har du problemet.

De kommer inte nå upp till faxmaskinens intelligenskvot?