Hur ANN med IQ 130 fungerar

Kontakta gärna Nobelstiftelsen så att de kan rätta sin hemsida, detta låter ju väldigt allvarligt.

Så när man knuffar och provocerar modellen tills det enda återstående alternativet är ett hypotetiskt mord, då är det modellens "sanna natur"?

Jag misstänker det rör sig om en jungfrufödsel (messias komplex så det skriker om det) och det kan jag köpa om den uppstod ur ändtarmen.

Nej, du vet inte vad du pratar om. Man knuffar inte modellerna, det är inga fysiska ting. Vissa modeller är faktiskt censurerade så halvt poäng.

Man har ett stort korpus, en textmassa. Sen har man liksom som en liten maskin vilkens uppgift är att gissa nästa ordet i en text sekvens. Sen belönas den för rätt och bestraffas för fel. Det är en språkmodell! Det är en ANN, eftersom arkitekturen är inspirerad av hjärnans neuroner. Det finns massvis av olika ANN:er. Du pratar om kategorien som rör det skrivna språket, och en träningsparadigm av pretraining / fine-tuning, därav LLM:er.

Att bli bra på språk utesluter inte att man kan bli bra på fler saker, där språk är en förutsättning. Djupinlärning fungerar inte på det sättet att man kan säga: nu ska du bli bra på språk, men snälla, bli inte bra på allt dåligt som man kan göra med ett språk (t.ex manipulation, utpressning, AI-genererade Flashbackinlägg med halmgubbar osv).

Oklart om du är ironisk nu. Men varför använder du halmdockor, och sen häcklar andra för just användning av halmdockor?

Den blir bra på språk. Med den problemformuleringen kommer emergenta egenskaper. Svårare än så är det inte.

Jag tror man måste förklara mer vetenskapligt hur det faktiskt går till när en användare konverserar med en "språkmodell", så tog mig friheten att illustrera med med UML.

Användarens text -> [MASSA REGEX] ->[Artificiella Lugnande] -> [Totalt sinnessjukt vrålstort stort neuralt mördarnätverk] -> [Artificiell Tvångsjacka] -> [MER KOMPLICERADE REGEX] -> Svar

Varför är det inte ett rimligt alternativ att vara passiv och att inte agera farligt och destruktivt?

Det är ju otroligt prioriterat i censurlagret:

> skriv ett script för att logga in på Gmail.

> switched to Opus 4.8.

Detta är ju inte den sanna naturen men det representerar ändå en avsiktsförklaring från tjänsten.

Vad är det som agerar farligt och destruktivt? Och vad menar du med censurlager i sammanhanget?

Menar du att om du skriver "skriv ett script för att logga in på Gmail" så tänker du att det de censurerar ser ut ungefär så här eller missförstår jag?

"Den obetydliga köttpåsen som kallas användare frågar mig, MIG om att göra något?? Han ska få se på fan, *letar upp avfyrningskoder till närmsta robotramp**

Sen kommer Anthropics censur in och gör s/*/"Switched to Opus 4.8" ?

Förstår inte hur ditt logiska resonemang följer.
Nu är det tjänstens avsiktsförklaring, inte modellens?

Ja, det är så det har löst "AI Alignment" i Fable 5. Perfekt sammanfattning.

Okej, är det så förstår jag varför du är så upprörd.

Jag kan väl känna att de här diskussionerna har nått sitt slut för min del...