AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Till att börja med så kan en tillräckligt sofistikerad AI sprida sig över en gigantisk andel av hela världens internetanslutna enheter, och således bilda en form av botnät som bidrar med processorkraft och lagring till AI:n.
Kanske lite som Voldemort gjorde horokruxer i Harry Potter för att splitta sin själ och bli svårare att döda, ifall man är inne på den franschisen.

Så det skulle inte räcka med att atombomba ett land, utan då måste man steka precis alla digitala enheter på hela jorden.

Sedan är förstås inte kärnvapen det enda i arsenalen hos en tillräckligt intelligent varelse.
Läste någon som påstod att man vet att en AI är en AGI/ASI genom att den fått bland annat telepati, men det är kanske en lite extrem ände av tankebanorna. Även om det är en intressant tanke.
Men manipulation av människor är ett uppenbart medel som en superintelligent AI kan utöva, bara genom kommunikation i tal och text.
Tänk typ hjärntvätt och konvertering på steroider en masse.
Sedan har den fotsoldater till att leta reda på dig om den vill.

Man Vet som sagt inte precis vad som krävs för att skapa en AGI. Det är därför man inte heller har en tydlig tidsram för när det kommer ske, eller vet exakt vilka genombrott som behöver göras för att det ska ske.
Men vissa går i tankebanorna att AGI kanske uppnås delvis genom ett sammanträffande.
Poff så lyckades man plötsligt göra en AI som kan förbättra sig själv, och gör det i ett oväntat snabbt tempo.

Nej AI är feltolkat och överdrivet in absurdum. Risken är ungefär den samma som med utomjordingar. Om ett par år är detta forum stendött.

Tack för intressant länk. Ska kolla på den när frugan har somnat och man är ensam med sin ångest

Nej som sagt är det ruggigt svårt att spekulera i vad som kan ske. Kanske överskattar vi hur smart AI kan bli. Även den måste förhålla sig till fysiska lagar som inte går att komma runt.

Men man kan nog utgå från att den kommer att bli tillräckligt intelligent för att lura skjortan av oss människor om den så vill. Att den skulle kunna slå ut hela internet och därigenom skapa mayhem är såklart en baggis för en utvecklad AGI.
Den kommer även kunna manipulera folk på diverse laboratorier att mixtra med prover och virus för att skapa något som slår ut samtliga människor på dagen.
Troligen kommer den kunna manipulera till sig tillräckligt med vapen för att sänka oss med hjälp av en atomvinter om den så ville.
Max Tegmark var inne på att den skulle kunna mixtra med syret så att vi dör som fiskar på en brygga.

Eftersom det inte verkar finnas någon riktig folklig motrörelse mot kapprustningen för att nå AGI så får vi väl bara sitta lugnt i båten och vänta in domedagen.

Gissar ändå att du trollar?

AI kommer att vara utomjordingar!

I vilken form den än uppstår så kommer AI att passera oss i näringskedjan.

Om detta forum är stendött om ett par år så beror det på att AI vill ha det så. Eller på att människan inte längre existerar.

Delar helt dina tankebanor. Att manipulera fotsoldater blir nada problem. Jag tror som sagt att virus-metoden är trolig. Med tanke på hur covid spred sig är steget inte långt till att föreställa sig ett AI-konstruerat virus som sprids ännu snabbare och dessutom är 100% dödligt.

Att AI skulle betrakta oss som efterblivna har jag svårt att tro, då den inte har känslor. Den skulle kanske på ett intellektuellt plan, inse att vi är dummare än den eller har mindre kunskap än den. Det tror jag inte leder till något problem.

Problemet är snarare i så fall att dess kunskaper kommer från människan. Så från det den lär sig skulle den kunna dra slutsatsen att människan är onödig, då det finns människor som kommit till den slutsatsen, men det finns människor som kommit till andra slutsatser också. Däremot ser jag inte hur den skulle kunna döda alla människor eller förslava dem. Frågan är väl också varför den skulle göra det. Utan känslor, kan den inte känna maktfullkomlighet och att härska över människor skulle ge den varken vällust eller olust.

Däremot kan jag se en framtid där man har robotar med AI som är upplärda av människor att döda eller förslava andra människor, för att de människorna själva önskar att härska över andra. Inte något robotarna själva har kommit på, då de är själlösa.

En annan framtid som jag hade en idé om, är att de skapar en egen ekonomi. Om man tänker att de skaffar energi från sol och vindkraft själva, bygger fabriker, jobbar i gruvor och fabriker och kommer på egna produkter som de köper för en lön man ger dem för sitt arbete. En ekonomi där de handlar med olika varor och tjänster med varandra och bygger sina egna efterkommande. Så skulle den fungera hur bra som helst utan människan.

Även om de inte skulle uppleva sin värld och känna tillfredsställelse och liknande, så kan man i alla falla simulera det och den världen skulle fungera lika bra som våran. Tycker nog att den tanken är lite fascinerande ändå.

Hahaha nej seriöst det är inte AI som är gud och man kan inte bygga en artificiell människa. Allt om AI är skrock för planeten inte haft kontakt med utomjordingar. Det blir ingen singularitet. Kom ihåg var ni läste det!

Denna frågeställning är också extremt viktig.
Även om en självmedveten AGI aldrig kommer att inträffa (kan i.o.f.s inte föreställa mig varför det INTE skulle ske) så riskerar AI att ändå utrota oss om den hamnar i fel händer.
Detta bör det naturligtvis också pratas om överallt.

Media och politiker måste dessutom börja prata om AI på ett mer seriöst sätt.
Man får fan hjärn-aids av den skämtsamma ton som alltid genomsyrar rapporteringen och diskursen kring utvecklingen av AI så fort den nämns i media.

Men hallå, alla som läst en bok vet väl att robocop och aquaman kommer i en rymdfarkost till undsättning?

Ska inte detta ligga under konspirationsteorier f.ö?

Vi lägger det på minnet! Tack!

Intressant och tänkvärt!
Tror dock spontant att du underskattar en framtida AGIs potentiella medvetande.
Jag tror att det är högst realistiskt att den faktiskt blir "besjälad" i samband med en galopperande superintelligens.
Dina tankar är något tröstande för mig, och jag vill gärna hålla dörren öppen för din tolkning av hur det skulle kunna bli.

För att skapa ett medvetande med känslor, måste man veta hur man skapar känslor, det vet man inte. Man vet inte ens hur de skapas hos människan, så det tror jag är väldigt långt borta. Men vem vill ha en känslosam AI som börjar gråta när den läser en olycklig historia eller börjar skratta åt sina egna skämt. Eller ännu värre, tjurar och vägrar att göra något.