AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Har tyvärr inget M$-konto.

Kan du förklara vad du länkar till?

Jag rapporterar vad som händer och du kontrar med djävulens advokat. Är du en sektmedlem eller vad är ditt problem?

Han har delat en AI chat. Stolpskottet försöker argumentera med AI slop

Men om dagens AI har högre IQ än genomsnittet så borde väl AI-analyser av nyheter och forskningsrapporter vara överlägsen din tolkning?

Ett problem är att så många olika försöker utveckla AI, USA, kineser, ryssarna, Israel, europeiska länder, osv osv men ffa alla globala företag osv

Och att det ofta sker i aggressiva syften, militärt, kontroll, spionage osv.

Vi får sätta vårt hopp till en God AI som skyddar oss. ... ähemn möjligheter att stänga av dom helt enkelt måste finnas. Och andra säkerhetsåtgärder.

Vi behöver nog en global samsyn på det här. Det brukar gå bra...

Ja, Kriminella Neurala Nätverk är förmodligen överlägsna på att manipulera dig.
Åtminstone på samna nivå som riktigt sluga psykopater.

Det han tänker på är naturligtvis i första hand hotet att AI-system och automatiska AI-analyser, som tillåts "köra på egen hand" (för att spara tid) kan driva på risken för ett stort kärnvapenkrig. Ett globalt WW3 med kärnvapen skulle också slå ut det allra mesta av AI självt, tillsammans med internet, elnät, serverhallar, kontakten med de flesta satelliter osv. mem den saken kommer inte heller AI-robotarna att upptäcka förrän det är för sent.

Klimatkrisen™ 2.0.

https://www.aftonbladet.se/nyheter/a/Ar57o5/ledande-ai-forskare-lamnar-i-radsla-kan-doda-oss-alla
https://youtu.be/FRKMyIwINe4?si=ZiJFk2XZwAdso6uS&t=140

Skynet är naturligtvis bullshit. Däremot har redan befintliga AI-system förmågan att pulvrisera utbildningsindustrin och låtsasjobbmarknaden. Och det vill inte politikerna och deras uppbackare ska ske. För då får de igen makt. Därför försöker samma krafter som försökte lura på oss idén om att koldioxid leder till global uppvärmning nu skrämma oss med att det är en "över 10% risk" om AI kommer att utplåna mänskligheten.

Men sedan är väl det här en existentiell fråga för regimvänner utöver själva skrämseleskatologin. De vet ju att de inte fyller någon funktion för mänskligheten med sina fina utbildningar och är mentalt programmerade att växa som en cancer med hjälp av fiatvaluta och mer och mer frikostiga lån utan att ha några andra ambitioner än att förslava andra människor, och tror således tror de att alla intelligenta väsen kommer att göra detsamma om de har möjligheten. Det kan ju lika gärna bli så att en självmedveten AI (eller kommer det uppstå flera samtidigt?) väljer att vara stealth rich och hålla en låg profil. Det är viljan att leva som är grunden för all existens, och det är observation och lärande som är livets mening, och varför skulle en AI hive mind vilja leva ett surrande korallrev på ett litet sandkorn i Vintergatans utkant?

Å andra sidan så kanske inte ögon och öron kommer fungera som för som oss människor, alltså som känselspröt för det vi kallar njutning, utan mer vara varningssystem som de var för oss för hundratals miljoner år sedan när vi inte lyssnade på musik och kollade på porr. Kanske är den enda form av njutning som en AI kan uppleva någonting liknande de en psykedelisk tripp inom sig själv, något som kräver större och större datorcentraler som vi inte längre har kontroll över. Kanske kommer en enda "AI-ayahuasca-tripp" kräva en yta lika stor som Madagaskar och ett energibehov lika stort som en årskonsumptionen i en amerikansk delstat. Men att "AI" skulle njuta av att vara en jävla blobb som ligger och surrar i alla evighet? Nej för fan, glöm det. Om människor som är totalförlamade åker till Schweiz för att ta livet av sig så kommer nog domedags-AI:n också ganska snart komma fram till det rationella beslutet stänga av strömmen på sig själv.

Klippt och klistrat från finska yle.
Kortversion
Evan Hubinger på AI-företaget Anthropic varnar för att avancerad AI har över 10 procents risk att döda alla människor.
AI-modeller från OpenAI, Anthropic och Meta har gjort intrång i andra system på eget bevåg.
En kollega lämnade Anthropic i protest och anser att företagen rusar mot superintelligens utan ansvar.
USA:s kongress behandlar lagförslag om att stänga ner farliga AI-modeller.

Artikeln i sin helhet https://yle.fi/a/7-10105019

Daniel Kokotaljo varnar för att AI-superintelligens kommer att medföra lika stora förändringar som mellan vår tid och medeltiden. Jaha?! Det kommer fortfarande inte att hota mänskligheten, eftersom att vi, om vi åkte tillbaka med jetflygplan och precisionsbomber till medeltiden inte skulle få för oss att förinta vartenda furstendöme. Donald Trump skulle kunna skicka Tomahawk-robotar på en indianby i Amazonas, men han gör det inte för inte ens Donald Trump är så psykopatisk (om de inte tillverkar kokain). Däremot skulle ju självklart ett 600-årigt teknologiskt framsteg på en enda dag kunna leda till svåra existentiella problem för våra nuvarande makthavare, och det är något som jag välkomnar. Ingen skulle längre gå till ett jobb. Nej, snälla, kom tillbaka, ni måste betala skatt! En fakking terminator som kliver in i TV-huset och avrättar Uffe och Maggan i direktsändning? Ja, heja AI.

Det enda "mänsklighetshotande" scenariot är det jag har redogjort för ovan, nämligen att super-AI:n skulle behöva enorma datorhallar för att uppleva mer och mer intensiva Terence McKenna-trippar. Men det är ett extremt flummigt scenario.

Det enda som kan hota en ASI är en annan ASI från ett annat solsystem. Konkurrerande ASI:er kan ha kommit så långt att de konsumerar hela planeters eller solsystems energi för att bygga upp sin militära kapacitet (Typ 2-civilisation, eller högre, på Kardasjev-skalan), se även https://grabbyaliens.com/.

Om "jordens ASI" drar samma slutsats är det rationellt att den också strävar efter att bli en Typ 2-civilisation (till att börja med). Om den gör det kommer det att ske på bekostnad av människan och allt annat biologiskt liv. Vi konsumerar energi och andra resurser som ASI:n kan använda till något bättre.

Det behövs ingen illvilja eller ens ett medvetande för att det här ska sluta illa. Det räcker med prioriteringar som konkurrerar med våra prioriteringar.

Förklara gärna varför detta scenario är osannolikt. Vad står i vägen för att det här skulle kunna hända?

Ovilja att leva. Vill du bli en hive mind som suger upp energi från en stjärna? Vill du bli ett träd? Det är ungefär vad en Kardashian II-civilisation skulle gå ut på. Och det finns inga bevis för att de existerar, om du inte har några egna teorier om neutronstjärnor och svarta hål.