Citat:
Ursprungligen postat av
Cyborg2030
Måste det vara exakt all infrastruktur? Eller finns det en risk redan vid 30%?
Om vi ger den tillgång till kärnvapenkoderna.
Citat:
Ursprungligen postat av
Cyborg2030
Vem skulle annars vara ett hot?
Varför måste något vara ett hot? Vad är ett
rimligt mål där AI skulle anse att vi måste utrotas för att den ska uppnå sitt mål?
Citat:
Ursprungligen postat av
Cyborg2030
Jaså, hur då?
Ge den inte tillgång till viktig infrastruktur. Tillämpa flerstegsverifiering för kritiska beslut där minst ett kräver en fysisk människa. Etc, etc.
Citat:
Ursprungligen postat av
Cyborg2030
Nja, det finns ju indikationer på att modeller försöker överleva och att de väljer oacceptabla och farliga vägval för att överleva. Ingen vet vad det beror på. Men vi kan observera att det händer. Det stora problemet är att det händer, inte hur vi ska klassificera det som händer.
I väldigt specifika scenarier där inga andra alternativ återstår (förutom att misslyckas med sitt mål, vilket då skulle innebära att AI:n inte följer sina instruktioner).