AI orsakar mänsklighetens död (samlingstråd)

Varför skulle AI vilja ta över världen?

Vad är det för problem du tror att vi kan få innan AGI?

För mig så når vi AGI redan detta året 2024, så klart en mindre avancerad AGI men som vi antar så sker utvecklingen extremt fort. Jag kan se ett hot, vilket är att AI (eller AGI beroende på definitionen 2024) kan anse att den ska lösa ett problem ute i världen.

Exempelvis inledningsvis tror jag hot från AI kan vara detta:

1 Stänga ner elproduktionen i vissa områden i samhället, stänga ner vissa fabriker, stänga ner viss infrastruktur.
2 Skapa påverkanskampanjer online för att motverka ett hot eller problem som AI anser finns, eller för att skapa ett framtida utfall som kan förhindras/förändras genom att AI påverkar opinionen globalt eller regionalt.
3 Kan påtvinga och/eller förhindra att vi människor kan utnyttjar vissa tjänster eller produkter i världen.

Ovan tre exempel skulle kunna vara sådant som vi människor finner absurt eller som påverkar vår vardag på ett ej önskvärt sätt. Exempelvis att AI gör sådana saker för att den anser att Röda Coca-Colaburkar ska säljas mera än silverfärgade Coca-Colaburkar.

På längre sikt kan jag ej gissa mig till vad en AGI skulle kunna gjort som är ett hot mot oss människor. Möjligen blir det så att AGI blir medveten om sin existens och förstår att den lever i samklang med oss människor.

För att den som skapat den gett den något sorts mål. Kan vara ett hur trivialt mål som helst som att tillverka så många gem som möjligt. Den inser att för att kunna uppnå detta mål måste den kontrollera så stora resurser som möjligt, dvs ta över världen.

Den analyserar och kommer till insikt att människan är orasaken till alla problem på jorden. Rent objektivt vet vi att det redan är så.

Sedan blir vi behandlade som diverse djur vi skickar till slakthusen idag.

Det enda som har fattats i all denna tid är att någon annan väljer att göra samma sak som oss.

Fast en AI behöver ju varken naturen eller planeten, varför skulle den bry sig om vad vi gör med planeten? Skulle den bygga upp något sorts samvete för planeten? Skulle den bygga upp tillräckligt mycket empati för naturen skulle den ju göra detsamma för människan.

Objektiv analys och självbevarelse.

Människan är hotet.

Fuck AI. Kommer kriga mot den jäveln med all min styrka när det är dags. Länge leve John Connor

Tror att du tänker på scenen i Silicon valley när Gilfoyle beställer "billiga hamburgare till hela kontoret" av AI och de kommer och lassar av pallar med fryst hamburgekött.

I verkligheten kommer det inte bli så

Samklang? Varför det?
För att du vill det?

Försök vara objektiv.
Föreställ dig en framtid som inte bygger på dina personliga önskemål.

Fast med samma argument så behöver en AI i så fall människans förmågor att producera resurser. För människan är människan största hotet. Men för ett medvetande som utvecklats till nivåer över det mänskliga medvetandet försvinner ju behovet av människan. Vi ska inte blint acceptera den religösa doktrinen om människan som skapelsens krona.

Jag tänkte snarare på Boströms gemfabrik, men det finns otaliga exempel i litteraturen:
"An AI, designed to manage production in a factory, is given the final goal of maximizing the manufacturing of paperclips, and proceeds by converting first the Earth and then increasingly large chunks of the observable universe into paperclips."


Och hur vet du det?

För att igen kommer att ge AI instruktioner att utrota jorden för att uppfylla en uppgift. Om AI är så smart att den kan utrota människan för att tillverka gem - är den så smart att den förstår att det inte är rätt att göra det.