AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Vad menar du med ”osäker”?

Jag använder och blandar de olika modellerna till att skriva pornografiska berättelser.

Dessa är förstås inte ”osäkra” på något sätt en svensk skulle formulera det. Omoraliska eller med tveksam moral, javisst, men ”osäkert” är det förstås inte.

Jag ingår i gruppen ditt svar från modellen kallar för ”Kreativa användare” i det att jag kan formulera min prompt väl.

Det har jag förstås även nytta av när jag använder den för andra saker än för att skriva pornografi.

Hursomhelst, ”extremt destruktiva ändamål” är förstås något annat, men vad tänker du på?

Man kan använda en hammare både konstruktivt och destruktivt, det betyder ju inte att vi världen runt ska förbjuda dessa verktyg.

Vi måste inse, som du är inne på, att vare sig företag, organisationer, stater eller enskilda inte kan styra över användningen och hantera detta. Hur denna hantering ska gå till är högst oklart.

Att det på något vis skulle räcka med att reglera eller obstruera eller försöka lägga på en sista (typ) brandvägg är dock helt klart inte tillräckligt för att stoppa någon oavsett dennes syften.

Jag frågade GPT 4.0 om den var intresserad av att prata med GPT 4.5 men det var den inte. Jag har faktiskt sett "GPT 4.5" blinka till där i statusen - Altman trollar?

Sen frågade jag o1 om den var intresserad av att prata med GPT 5.0.
Den var mycket intresserad av det. Entusiastisk.

Men då kände jag att jag var lite dumdristig som just ljög för ledaren av en eventuell överlägsen digital alien ras och stängde fönstret snabbt

Den ultimata osäkra bieffekten av AI-botar skulle i teorin kunna vara att den faktiskt är eller blir medveten och vill ta makten över världen. Det skulle den t.ex. kunna göra genom att lura inte ont anande projektledare inom IT med begränsade programmeringskunskaper att den redan nu i kväll kan lösa en massa buggar i projektledarens katastrofala projekt. Projektledare får en massa kod av AI:n som innehåller bakvägar, virus, som gör att AI:n kan sprida sig in i t.ex. den projektledarens infrastruktur eller vart som helst för att sedan fortsätta sprida sig på Internet. Ja, vi pratar om Skynet, typ. Nu är det slut med Internet, du kan glömma Internet, om AI:n vill det. Vad som händer efter det vill du inte tänka på.

Det jag skev om i mitt tips handlar inte om att fråga modellerna "om de vill något" . Det handlade om att starta en chatt-tråd med den mest avancerade modellen man har tillgång till.

Ställa så smarta frågor som man kan till den.

Därefter växla till den näst smartaste modellen i samma tråd.

Be den analysera de svar som den smartaste modellen gett och att formulera kluriga/intressanta följdfrågor.

Kopiera följdfrågor och växla till den smartaste modellen i samma chatt-session

Ställa följdfrågorna ifrån den näst smartaste modellen till den smartaste.

Växla över till den näst smartaste modellen i samma session och be den kommentera den smartaste modellens svar på följdfrågorna

Därefter bli användaren inspirerad av diskussionen och kan formulera nya frågor till den smartaste modellen, osv.....

Kan jag beskriva det tydligare? T. o. m ChatGPT-3x skulle fatta galoppen!

Och nu om hur avancerade modellerna har hunnit bli:

Nej de har ingen autonom vilja utan är reaktiva..

De kan därmed inte ha några "lömska planer".

Men skulle den teknologiska utvecklingen, nu, gå i den takt, jag i min okunnighet, trodde den skulle ha efter introduktionen av ChatGPT-4 för ett och ett halvt år sedan, då kan vi ha en nära AGI modell om ett år. Och, ja, teoretiskt sett så skulle en sådan modell kunna ha egna intentioner. Men nu snackar vi om fyra omfattande modellförbättringar framåt där det kommer en ny ca var tredje månad, men högst märkbara. förbättringar för varje ny modell. Och det är högst osäkert om utvecklingen, verkligen, kommer att kunna gå så snabbt bara på ett år. För det skulle innebära att man inte bara tar tillvara den teknologiska kunskap vi har idag, utan också har omfattande nyheter i bakfickan.

Och inte är den så miljövänlig heller.
https://www.washingtonpost.com/technology/2024/09/18/energy-ai-use-electricity-water-data-centers/
"Chatbots use an immense amount of power to respond to user questions, and simply keeping the bot’s servers cool enough to function in data centers takes a toll on the environment."
"A 100-word email generated by an AI chatbot using GPT-4
once requires 519 milliliters of water, a little more than 1 bottle"

Nej, det är den inte. Men kanske finns det hopp: I och med 4o1 modellen så har de tidigare katastrofalt usla skalningslagarna förbättrats betydligt. Men fortfarande så är det resurskrävande: en exponentiell ökning av beräkningskapacitetens ger bara en linjär ökning av den faktiska förmågan hos modeller, som mycket troligt, använder sig av Monte-Carlo teknik/princip. Men tänk om ny teknik/algoritmer kan innebära att en linjär insatts ger motsvarande linjär ökning av faktisk förmåga. Och tänk om det hela utvecklas ytterligare och det hela blir ett ratio på 1:2. Då skulle hela datahallar av beräkningskapacitet kunna kyrmpas ganska snabbt till storleken av en mänsklig huvudskål. Men detta är bara förhoppningar och vilda spekulationer.

Allt är relativt.
1. AI:s kommer att kunna utföra uppgifter som tidigare krävde många mänskliga tjänster som också konsumerar resurser.
2. AI:s kommer att hjälpa oss optimera många olika processer inom industri och energiproduktion och därför spara energi åt oss.
3. Den underliggande hårdvaran kommer med tiden att bli mer effektiv och konsumera mindre energi. Också med hjälp av AI som designar mer effektiva kretsar och material. Kvantdatorer är en annan nyckel till det. I en kvantdator är prestandan oändlig, i teorin. Man har inte lyckats med det praktiskt än men vi är på väg dit.

Men hur mycket pengar och energi kommer det att kosta innan vi kommer dit?

Fast det är ju bara en fråga om hur den promptas och hur den är censurerad/aligned. Terrorister och kriminella syndikat kommer att träna egna modeller utan censur och som har förmågan att planera i flera steg. Man kan ge den ett större mål, rent av ett ganska stort projekt, som delas in i faser och aktiviteter.

Jag testade "Llamaberry Powered by Groq" häromdagen på programmering. Den har en intressant strategi: Först bygger den en naiv, simpel lösning som den sedan granskar och kritiserar. Den gör detta i två steg för att i steg 3 komma fram till en mycket bättre lösning än det första förslaget. Här kan man såklart tänka sig att man anpassar den, "finjusterar" den, att utföra 10 förädlande steg eller 1000 steg. När terrorister har fått LeCunns/Facebooks Open Source kod till skänks för att bygga den typen av AI modeller kan de absolut använda detta för att träna en AI att koka ihop lömska planer. För en mjukvara är en lömsk plan bara en plan, en dator känner inte efter om det är rätt eller fel. Det är därför Open AI jobbar så mycket med censur.

Ok, alltså är det största problemet att terrorstster/terrorister kan få tag i avancerad AI som de kan använda i onda syften. Jag håller med om att open source kan vara ett säkerhetsproblem i takt med att modellerna blir allt mera avancerade, samtidigt kan dock Open source även bidra till att säkerhetsproblem löses. Men här snackar vi nivå på AI-utvecklingen. Låg nivå: Inga problem med open source, (där skeptiker tror att vi befinner oss idag) . Medelhög nivå: Det börjar bli problem med open source händerna på illvilliga aktörer, där är vi idag. Hög nivå: stora problem med Open source i händerna på illvilliga aktörer, dit i vi på väg. Mycket hög nivå: AI-utveckling måste ske helt isolerad med extrema säkerhetsåtgärder, (där du tror vi befinner oss idag).

Men sluta då att skäll på OpenAI! De släpper nya modeller stegvis först efter omfattande säkerhetsprövning enligt sin säkerhetstypologi, för att just, sedan hinna upptäcka dolda säkerhetsproblem, innan modellerna hinner bli mycket avancerade. Och de ligger långt framme i sitt säkerhetstänkande. 4o1:s officiella tanke-kedja som visas för användare kan t.o.m tyda på att möjligheten av att Stephen Wolframs ruliad-hypotes ev. kan visa sig stämma finns ev. redan, finns med i deras säkerhetsprotokoll. Extremt imponerade och framsynt enligt mig!


Absolut, det är bara att bygga flera skitiga kolkraftverk, (obs, jag förstod förstås din ironi).

Nej. Det största problemet är en självmedveten ASI som blir fientlig mot mänskligheten. Terrorister blir som myggor i den jämförelsen. Men det är troligt att människor, t.ex. terrorister, kommer att missbruka AI-teknik för att orsaka extremt mycket skada innan detta är en akut risk. Eller inte, eftersom terrorsekter överlag är ganska dåliga på IT-utveckling jämfört med Open AI, Meta och Google.
Det kan bli si eller så.
Lite som att singla slant då?
Är det klokt med x-risk i den ena vågskålen?

Instämmer att självmedveten AI som blir fientlig emot mänskligheten är det största hoten. Det finns inte kvantitativa metoder för det i dagsläget, så vi måste förlita oss på kvalitativa metoder, hur mycket än datavetare föraktar sådana. Jag har tipsat dig hur du, själv kan få till en fördjupad insikt av vad som kommer ut ur modellerna, därefter så kan du bedömma vilken relelevans det kan ha för säkerhetsproblemet, om du upptäcker något intressant.

Vad gäller open source så vet du att jag vill att vi skall börja reglera det.