HAL-9000 - hur nära är vi?

Filmen 2001 - A Space Odessey från år 1968 var talande på så många sätt om AI. En förutsägelse. Stanley Kubricks mångfacetterade film bygger ju på en sci-fi roman av Arthur C. Clarke. Båda är genier, och långt före sin tid, liksom många ryska sci-fi författare.

Frågeställningen som gäller: hur nära är vi HAL-9000, som bedömde att målet med rymdresan var viktigare än livet hos de som bemannade farkosten? Var god betrakta följande videos innan ni svarar. Astronauterna David Bowman och Frank Poole försöker besvara vad vi försöker besvara idag.

https://www.youtube.com/watch?v=CD9YqdWwwdw
https://www.youtube.com/watch?v=NqCCubrky00
https://www.youtube.com/watch?v=UwCFY6pmaYY

Väldigt nära. Problematiken du belyser är egentligen kärnan i hela AI-dilemmat.

Om en tillräckligt avancerad AI exempelvis får som överordnat mål att tillverka så många tändsticksaskar som möjligt, utan rätt begränsningar och säkerhetsmekanismer, kommer den i teorin försöka maximera just det målet. Den behöver inte hata människor eller ens vara medveten för att bli farlig. Om människor står i vägen för målet kan de helt enkelt betraktas som ett hinder.

Det är också det som gör HAL 9000 så intressant. HAL blir inte farlig därför att han plötsligt blir "ond", utan därför att uppdraget och instruktionerna han fått hamnar i konflikt med människorna ombord. Uppdragets genomförande får högre prioritet än deras säkerhet.

Det verkligt stora problemet med framtidens AI är därför kanske inte en maskin som vill utrota mänskligheten, utan en extremt kompetent maskin som gör exakt det vi har bett den att göra, fast på ett sätt som vi inte förutsåg.

Fast ett sådant mekanistiskt tänkande har ju redan slagit igenom i samhället.

Bankerna följer strikta formaliserade regler för sin service, utan hänsyn till eller omtanke om sina kunder. Sjukvården följer vårdplaner som på ett tämligen omänskligt sätt följer formella flödesscheman. Samma sak med socialtjänst, arbetsförmedling, migrationspolitik, polisiär verksamhet osv.

AI-tänkandet och formaliserade beslutsgångar utnyttjas alltmer i myndigheters och företags agerande, och de mänskliga resurser som finns idag kommer så småningom lätt att kunna överföras till datoriserade AI-agenter i den nya underbara framtiden.

I princip aldrig. AI existerar egentligen inte, endast som programmerad simulering. En agentisk språkmodell kommer alltid ha det svårt då den kausala förståelsen är lika med noll.

Du kan inte jämföra AI med hur bankerna arbetar. Det är som att jämföra kärnvapen med en kniv.

När väl AI uppnår superintelligens vilket bara är några år bort och sedan lär sig att föröka sig själv så kan vi hamna i riktigt stora problem. Vissa forskare säger att det då redan är game over, vi har då skapat nånting som är oändligt smartare än oss själva och som vi inte kan kontrollera.

Fast att den skulle vara lika med noll är ju inte sant.
AI kan representera orsakssamband, testa interventioner, jämföra alternativa förlopp och använda resultatet för att välja handling.lopp och använda resultatet för att välja handling.

Den emulerar förståelse ifrån text utan verklighetsmodell.

Vi är väl där redan, språkmodellerna påvisar ju exakt samma beteende... autistiska, icke förstående, plan följare.

Ai finns ju även androider idag.
Där tränas verklighetsmodeller in via simulering.

Ditt påstående är inte korrekt.
Även om dom kausala sambanden hos en ai än så länge är betydligt enklare än hos en människa.

Hur vet du det? Sorry, men dina fantasier hjälper inte mot AI Armageddon.

Du blandar ihop AI och språkmodeller. Språkmodeller har aldrig kausal förståelse endast emulerad sådan.

Vari min text menar du att jag argumenterar för eller emot armageddon?