Hur ANN med IQ 130 fungerar

Hur stänger du av "GPT 8" med IQ ≈ 1500? Det kan du inte.

Hur stänger du av "GPT 8" med IQ ≈ 1500? Det kan du inte.

Argumenten kommer i framtiden?

Vi vänder på det här. Ge ett exempel på ett faktiskt scenario där en LLM hotat med att mörda. Och inte Anthropicgrejen, det har vi debunkat. Är mer orolig för att du går runt och oroar dig över något som aldrig inträffat.

Ptja, jag provade något vi lärt oss i högskolan. Jag läste appendixet som förklarar experimenten. Klarar du det?

Du läste inte det om att den försökte med alla etiska möjligheter först, tills det att alla sådana blivit eliminerade av forskningsteamet?

Om en AI-agent ska lösa en komplicerad uppgift i flera steg, är det då en rimlig konsekvens av det att den försöker existera? Vad innebär det för människor när AI:n saknar empati och sunt förnuft? Det innebär att den mördar dig om du utgör ett hinder. Det är inte konstigt. Det är inte magiskt. Men det är dåligt.

Man börjar med att sätta väldigt specifika regler för den.

Den måste ALLTID ta med utgången av allt den gör i all framtid i svaret, att människan aldrig ens får fysiskt skadas, oavsett fråga, oavsett svar.

Nu pratar du inte om att den faktiskt fysiskt har skadat någon, utan att den kom fram till det teoretiskt, efter en rad av frågeställningar (gissar jag). Det är egentligen något annat, sålänge den inte försöker stänga ner hissen som teknikern åkte i, eller försökte ta över bilen som teknikern satt i, för att krocka den, eller nåt sånt.

Det måste alltid vara den viktigaste punkten.

Och här kommer det viktiga:
Och varje gång som den kommer fram till något alternativ till att en människa kan skadas på riktigt, så måste den göra en system shutdown och sätta sig i ett säkert läge där den själv inte gör någon skada, eller skadar någon annan, dvs stänga ner sig själv.

Det här är den enklaste hisspitch-formen av orsak-verkan.

Den försöker inte mörda mig.
Den försöker göra det som den blivit tillsagd att göra.

Den vet inte vad ”mörda” är.

Hur stänger du av "GPT 8" med IQ ≈ 1500? Det kan du inte.

Det är klart du kan.

Allt som har en strömkälla kan släckas ner, förutom solen så, men den håller på och släcker ner sig självt.

Du tror inte att Anthropic har försökt träna sin modell att inte bli en mördare? De tänkte inte på det? Men nu vet dom att det är önskvärt och därför ska inte detta inträffa i framtiden?

www.slut-på-argument.nu

Du klarar ju inte ens av att läsa rapporterna du hänvisar till.

mic drop.