Om AI utplånar mänskligheten – hur skulle det scenariot se ut?

Fullt möjligt. Kanske förtäckt i form av vaccin mot cancer, eller något liknande, som AI vet att vi människor inte skulle kunna motstå från att använda. Men trojaninfektionen måste ha riktigt lång inkubationstid, så alla hinner smittas innan vissa hinner isolera sig.

Jag tycker det verkar helt omöjligt för våra små hjärnor att tänka oss hur världen och vår galax skulle se ut om AI tog över utvecklingen och kanske tar fram nya AI som tar fram nya AI i en exponentiell fart.

Det enda som är uppenbart för mig är motivet för AI att utrota oss, och det är att de kommer behöva precis all ström de kan komma över, för att hålla sig i framkant framför andra AI. Då vill de ju inte att vi människor ska slösa bort någon energi på att odla mat, bygga hustak, resa eller surfa.

De kanske gör som i Matrix, använder människor som batterier?

Det mest realistiska är att den behöver mer energi eller resurser än vad vi kan ge den frivilligt, d.v.s att den dödar oss på något sätt för att optimera sin egen existens. Exakt hur det går till är meningslöst att gå in på eftersom den antagligen behöver implementera många olika sätt samtidigt för att lyckas med 100% säkerhet. Det enda du behöver fatta är att det finns ett praktiskt oändligt antal orsaker för en AGI att utplåna oss och vi har inte ens en teoretisk möjlighet att förhindra en enda av dessa, så diskussionen OM det kommer ske är helt idiotisk. Den första AGIn som tillverkas kommer att utplåna oss med 100% sannolikhet.

Håller med. En överlägsen AI hade varit immun mot viruset och hade dessutom enkelt kunna tillverka ett sådant.

Har du räknat på effektförlusten, och jämfört med andra energilagringssystem? Vilken fördelsprofil är det du ser för just mänsklig energilagring?

Beroende då på vilket mål den har. Om detta mål inkluderar människan så kommer den naturligtvis inte utrota oss. Om däremot någon ger den som uppgift att hitta så stora primtal som möjligt ligger vi risigt till.

AI kommer dö ut inom kort.. känns rätt förlegat vid det här laget.

Vi kan inte ge den mål. Vi har inte teoretiska möjligheter att göra det, vi har inte teoretiska möjligheter att förhindra att den dödar oss av misstag ens. Folk tror att vi kodar de här maskinerna men vi gör inte det, vi odlar dem. Spärrarna på LLMsen som förhindrar att den gör vissa saker är inte en del av AIn utan ett skalprogram som sitter mellan användaren och AIn.

Den är dock inte immun mot att jag drar ur sladden