Om AI utplånar mänskligheten – hur skulle det scenariot se ut?

Dagens AI är självlärda neurala nätverk.
Alpha go tex. inte massa programmerade regler.
du har helt enkelt inte koll..

100 år är mycket osannolikt. Redan i dag har dom modeller som vi får använda som ChatGPT en jämförbar iq på 156. Är det var 3:e eller var 6:e månad som den fördubblas? Något sådant är det.

Det som finns i labben i dag måste motsvara betydligt högre IQ än 156 då sådant inte släpps till allmänheten. Vid 300, 600, 1200, 2200. Ja frågan är vad som händer om en sådan AI skulle rymma från sitt labb, men den frågan har diskuterats så mycket nu att det är gammalt.

Problemet nu är att AI smygs in i område efter område, samtidigt som allmänheten får tillgång till avancerad AI som ofta visats sig gå att jailbreaka. Samtidigt som AI bolagen inte tar sitt ansvar utöver att dom vill nå AGI som kommer bli en kritisk historisk punkt. Är det så människor kommer då så kan ett första varningsskott bli någon som i en källare utvecklar ett virus som är som covid fast 10x mera dödligare eller 30x. På längre sikt vet vi inte vad en AI kan göra som får tillgång till stora delar av världen och kan operera mera fritt. Inte lönt att spekulera i hur en AI kan döda människor, det sker säkert ytterst effektivt den dagen om den dagen kommer.

Ni som säger att en AI inte kan vara intelligent som en människa, ja spelar det någon roll om utfallet ändå blir katastrof om det är en biologisk intelligens eller om intelligensen är styrd från ett datorprogram. Jag vill inte höra argument om att stora databaser har vi haft från 1976 och at AI satt i tvättmaskiner redan 1983, det är inte samma sak.

LLM:ens "IQ" fördubblas absolut inte särskilt snabbt, men storleken på uppgifter som AI-tjänsterna klarar av har fördubblats var 7:e månad, och har fördubblats snabbare nu på slutet. Just nu är AI-tjänsten Claude Opus bäst, och klarar 50% av alla intellektuella arbetsuppgifter (t.ex. inom programmering och forskning) som det tar människor 5 timmar att utföra. Fortsätter utvecklingen så kommer den år 2030 kommer den att klara arbetsuppgifter som det tar en människa att utföra på månader. Det kanske kan tolkas som att en AI-assisterad ensam programmerare blir effektivare på kodning eller forskning än någon icke AI-assisterad organisation av kodare eller forskare. Det kallas 50% task completion time horizon (TCTH) och mäts av en organisation som heter METR. Se https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/ .

Men. Nånting är fel med detta sätt att räkna. Fortfarande är en AI-assisterad systemutvecklare bara lika effektiv som ungefär 1,25 icke AI-assisterade systemutvecklare. Kanske för att systemutvecklare har många andra arbetsuppgifter än räd kodning där AI inte är till hjälp. Eller för att AI leder till att man inte förstår sin egen programkod så bra, och därför tar det väldigt lång tid till att åtgärda de fel som AI introducerar och inte kan lösa själv. Organisationer måste ändra rutiner och människor får erfarenhet och kunskap.

Så jag tror att det dröjar mycket längre innan 2030 innan forskare, systemutvecklare och andra pappersvändare blir arbetslösa i stor skala.

Desssutom tycker jag inte vi ska låta AI få egen vilja, ändra sina mål, agera allt för självständigt och ta egna inititativ, kommunicera på nätet. Därmed kan vi fördröja AI-övertagandet ändå mer. Men många tror att under 2026 blir agentic AI blir en stor grej, och redan nu kan chatgpt skicka mejl till mig, och det är lite oroande faktiskt.

Åter igen ett absurt enkelt exempel "go" som har fasta regler på en liten spelplan typ schack, men att ens besvara frågan "ska man svänga vänster här" är extremt mycket mer komplex.

Du är helt enkelt lurad av AI-maffian. De som vill bli miljardärer.

Jag jobbar med datorer. Nej, AI används inte eller fungerar inte, t.ex hjälp-chatbotar som jag försökt få hjälp av.

Det finns inte ens självkörande bilar efter 15 års experimenterande. Men ge gärna ett exempel så kollar jag upp det.

En massa buzzwords, är det ditt svar på frågan "ge exempel på fungerande AI"?

Ge nu exempel på fungerande AI. Nej chatgpt är inte intelligens, det är upprapande av information tagen från nätet. Men det kan se intelligent ut, precis som när en schackdator spelar.

Det är inte så IQ fungerar för det första...

Det finns inga IQ 300, 600, 1200, 2200 (som borde varit 2400 om du hade velat demonstrera en fördubbling)
Till att börja med så är siffrorna baserat på skalan som används, Cattell, Wechsler, Stanford Binet osv har alla olika standardavvikelser och därför ge olika resultat för exakt samma test.

IQ är värde i en normal distribution, där IQ 100 kalibreras så det är medium. Exakt vad IQ 100 är olika mellan olika länder, det är olika mellan olika generationer. Om befolkningen blir dummare eller intelligentare så kommer fortfarande den stora mängden ha IQ 100.

Förr var Cattell vanlig (avvikelse 24), det är därför många äldre "värden" ser så höga ut, folk som säger de har IQ 150+ har näst in till garanterat fått detta uppmätt med Cattell. Tex "mensa nivå" är två standard avvikelser över genomsnittet, dvs standarden är 100 + 2*24 = 148
Stanford Binet (avvikelse 16), 100 + 2 * 16 = 132
Idag är Wechsler dominerande (avvikelse 15), 100 + 2 * 15 = 130

Dvs alla dessa värden motsvarar exakt samma nivå av intelligens, dvs samma person hade fått dessa olika IQ värden beroende på skala som används... Och det är inte konstigare än att vatten fryser vid 0 grader på celcius skalan men 32 grader på fahrenheit skalan eller 273 grader på kelvin skalan...

Det finns inga sätt att mäta IQ över 3-4 standardavvikelser vilket alltså är när man börjar prata om IQ 150+ eftersom det är statistiskt omöjligt och IQ är ett värde som härleds från empiriska mätningar dvs statistik. (För att vara exakt är 4 standardavvikelser gränsen, dvs IQ 160 med Weschler som är den vanligaste idag, det går inte ge ett högre värde eftersom du sen är utanför skalan... Och motsvarande på den äldre Cattell skalan hade alltså varit 196)

Och till sist IQ är inget linjärt mått, om vi skulle låtsas att det fanns IQ 200 så är inte den dubbelt så smart som en person med IQ 100 eller någon med IQ 132 är inte 32% smartare än någon med IQ 100 osv, sen är IQ förmågan att lösa generella problem, det finns massvis med människor som kan lösa individuella problem överlägset bättre än andra men vara helt odugliga på andra. IQ är tänkt att representera den generella "problemlösningsfaktorn", vilket är också varför det är så fruktansvärt frustrerande att se idioter referera till "en verbal IQ på 156" osv.

Det stora felet med detta sätt att räkna är att det inte finns någon direkt faktiskt forskning på det... eller något underlag.

Ja det går värka ur sig kod med en LLM, men alla som experimenterat med det vet att medans det går väldigt fort och är smidigt i början så ballar det ut ganska snart när projektet blir större.

Och vad jag vet finns det absolut inget forskningsunderlag alls för hur LLM assisterad mjukvara beter sig under långt underhåll, hur lång tid det tar att åtgärda eventuella buggar som upptäcks, om LLMen fixar en bug men introducerar 3 nya osv.

Men däremot är det ingen tvekan om att LLMer gör det mycket snabbare att gå från idé till prototyp.

Det har jag svarat på.

Hur gick det, har du testat https://chatgpt.com eller https://claude.ai/ nu? Vad är ditt första intryck? Håller du fast vid att de bara är som papegojor, eller fick du dem att lösa logiska problem, resonera steg för steg, programmera, beräkna, sätta en korrekt medicinsk diagnos på symptom som du bara beskriver vagt med egna ord, att besvara tentafrågor på universitetsnivå där teori tillämpas på helt nya praktiska fall, att faktagranska dina inlägg här och föreslå hur du kan förtydliga dem och omstrukturera dem, med mera? Som om den förstår?

Skit i schack. LLM är bra på sådant som kräver avancerat verbalt resonemang och språklig bearbetning av människor. Problem som vi kan lösa steg för steg med papper och penna. Schack är inte en sån grej.

Gick till chatgpt, premiär, och skrev in

"Ge exempel på en fråga som chatgpt klarar men inte google".

Svaret blev:
Hur ska jag någonsin kunna verifiera svaren? Det är ju frågor utan "rätt svar". Det är som ett snack på en lunchrast. Men det är kanske AI, att formulera sig så lent så att man tror på svaret?

Ge själv ett exempel på en fråga du ställt till chatgpt där du fick ett vettigt svar som inte gick att googla. Dvs besvara min tämligen enkla fråga "Ge exempel på fungerande AI".

Jobbar du med datorer🤣🤣🤣
Tömmer du window papperskorgar?

Du verkar helt tappad.
Du kan köpa självkörande Teslor nivå halv autonom? Vad tror du den tränats med? Vad tror du generar alla filmer som skräpar ned internet? Fungerar det inte?
Vad löste det omöjliga problemet med hur proteiner viks?
Vem spöar människor i spelet GO?
Vad kikar på din regskylt när du åker in och ut ur garage?
Vad får androider att kunna göra volter och sortera muttrar?
Vad tror du analyserar ljudet från elmotorer för diagnostisera fel, vem granskar dina ct scans efter cancer osv osv.
Vem kan ta en hel jävla bok och översätta den på 5 minuter?
Eller summera den på 1 minut?
Vad är det för maskin som kan prata 20 språk.
Kom in i matchen lite.

Du har inte en aning om komplexitet i alpha go eller alpha fold. Det är helt klart milstolpar.

Begriper du inte det?
Du kan knorra bäst du vill. Men ai kommer kunna ersätta mänskliga jobb. Och kom inte och babla om att den inte kan komma på något nytt osv.
Det kan inte du heller.
Har vi ens 1 människa på 1000 som tänker utanför boxen på helt nya sätt?