Om AI utplånar mänskligheten – hur skulle det scenariot se ut?

All respekt - många dataloger har privat undvikit sociala medier, bl.a. för att leva som de lär om de undervisar i informationssäkerhet. I jobbet brukar många IT-proffs dock finnas på LinkedIn för att underhålla sitt kontaktnät - och ResearchGate har åtminstone tidigare varit populärt bland forskare i samma syfte.

Men. Att vara datalog idag och inte seriöst ha testat LLM och AI-generering av kod är snarare som att 1997 inte ha testat webben och varken yahoo search eller altavista. Konstigt att inte vara nyfiken på utvecklingen inom sitt ämne.

2021 kom LLM-baserad code auto-completion i Github, och väldigt många av oss testade LLM i slutet av 2022 när Github Copilot kom. Min bild är att våren 2025 slog s.k. vibe coding igenom på allvar bland yrkesverksamma systemutvecklare. Därför att då såg många nyttan med det. Då kom flera populära LLM-baserade "kodassistenter" eller AI-agenter som kan redigera och refaktorisera en stor kodbas (många filer). Och som kan verifiera funktionen automatiskt med enhetstester, och köra en loop som upprepar kodredigeringen tills testerna uppfylls och målet är uppnått. Exempel är Claude Code. Idag kan den självständigt utföra 50% av alla programmeringsjobb och beräkningsjobb som det tar en expert cirka 5 timmar att utföra, enligt mätningar. Antalet timmar (s.k. 50% task completion time horizon) har fördubblats mindre än var 7:e månad och förväntas nå 1 månad innan 2030, om utvecklingen fortsätter.

Du kan mycket mer om detta och absolut så att LLM kan användas till NÅGOT, t.ex någon slags programutveckling, skapa påhittade bilder eller låtar eller filmer osv. Jag är inte påläst kring teorin med LLM men det är ju självklart att den inte kan "lösa cancerns gåta" genom att studera alla data som finns på nätet så "intelligens" går bort och det är fortfarande bara en algoritm inte Intelligens, om än så komplicerad att Musk inte har en aning om hur Hitler kom in i Groks svar så de fick manuellt gå in och ta bort honom, och jag håller helt med LeCun att LLM och chatgpt är en återvändsgränd som inte leder till AI med Intelligens.

Här en kul film som dissekerar linkedin. Min som pluggar på LTH och satsade stort på linkedin men det sista året har han skippat det helt och hållet för han inser att det är en återvändsgränd och jag skulle säga att linkedin är en död miljö numera. Tänk att så bra ideer "låt oss söka jobb på nätet" kan dö helt och hållet. Allt med datorer är inte så bra som man tror.

Linkedin is everything wrong with the net.
https://www.youtube.com/watch?v=nAqKHTrR8LU

Ja, LLM är som samhällsvetare som enbart genomför litteraturstudier och drar slutsatser utifrån befintligt material. LLM kan på så sätt syntetisera ny kunskap men den är sällan särskilt revolutionerande, eftersom de inte utför egna mätningar eller experiment. LLM:ens förmåga att genomföra matematiska bevis kan jämföras med en duktig universitetsstudent, och är användbar som verktyg inom tillämpade områden, men den ger knappast vetenskapligt publicerbara nya rön inom matematik.

Samtidigt finns andra typer av AI – till exempel simulerande och experimentstödjande system – som faktiskt kan bidra till genuint ny kunskap, exempelvis assistera i utvecklingen nya läkemedel - vilket har gett Nobelpris.

Gällande LinkedIn så har jag haft nytta av det många gånger i arbetet för att få kontakt med samarbetspartners. Många arbetsgivare har tröttnat på Arbetsförmedlingen: att annonsera i deras databaser kan ge orimligt många ansökningar, ofta AI-genererade, som säger lite om den faktiska personen. I stället försöker arbetsgivare hitta andra vägar för att headhunta kompetens, och där trodde jag att LinkedIn var en möjliga kanal?

Så är det, hade jag varit under 60 hade jag nog studerat LLM och försökt komma på användningar som underlättar mängd-arbete som jag inte gillar, t.ex skriva rapporter och annat. Nu kan jag strunta i det. Min som som strax går ut kanske kommer att använda LLM under en stor del av sitt liv, det vet jag inte. Men inte som "AI", utan mer som ett texthanteringssystem.

Hehe jag tycker du ska applicera tanken på AI på "jobbannons", "linkedin", "Fylla i jobbansökan", "online-test av sökande", "Skicka ett nej tack till ansökan" så får du se att linkedin är totalt kört om AI kommer att innehålla det minsta Intelligens. Extremt mycket på nätet kommer att dö om AI verkligen blir intelligent. Faktiskt det mesta inklusive film konst böcker och musik som jag gillar.

Den som tror LLM är AI kommer i så fall att se att rubriken på tråden stämmer helt och hållet.

Ja, många blir nog fördummade om de låter generativ AI ta över mentalt arbete istälelt för att aktivera minne, uppmärksamhet och förståelse. De drabbas av "kognitiv skuld". Men inte alla. Det beror på hur man använder den.

Det är som att bilen kan fresta mig att sluta ta promenader, och en miniräknare att helt sluta räkna i huvudet, men alla blir inte passiva. På samma sätt kan AI fresta mig att sluta aktivera de processer som krävs för att verkligen förstå min egen programkod. Samtidigt kan både bilen, miniräknaren och AI göra att jag kommer mycket längre än jag annars hade gjort.

Jag upplever att AI har gjort att jag lär mig mer ny kunskap på kortare tid inom områden jag frågar om, och att jag får mer tid att analysera djupare problem istället för att slösa tid på detaljer. Om jag verkligen granskar allt den föreslår tycker jag att kvaliteten i det jag levererar höjs. Okej, jag lär mig inte detaljer i nya programspråk på samma sätt som förr, och kanske inte själv kan upprepa den programmering den hjälper mig med, men jag kan i stället förbättra kodens struktur, algoritmer och designval – alltså lägga tid på sådant som ligger närmare djupförståelse än ytminne.

För att motionera hjärnan försöker jag memorera telefonnummer till nära och kära och aldrig använda kortnummer, och att summera saker i huvudet när det finns tid istället för att ta fram miniräknaren. På samma sätt har jag bett ChatGPT att alltid ställa kontrollfrågor till mig, ofta i form av en quiz, efter att den har förklarat ett begrepp eller en teori, för att säkerställa att jag verkligen har förstått. Jag frågar den ofta hur koden fungerar tills jag har förstått all kod den producerar. Jag borde dock skapa fler lösningsförslag på tentor själv istället för att AI-generera dem. Och jag borde oftare tvinga mig själv att skriva av den kod den föreslår och ibland modifiera den själv – i stället för att kopiera och tillåta den att redigera kodbasen.

Nja, han tror inte att generativ AI:s framtid är AGI. Om man med AGI menar AI med medvetande och känslor är jag också osäker. Men generativ AI utvecklas snabbt mot selektiv superintelligens inom många områden, redan idag språk, och mycket snart programmering och matematik, senare på de flesta mentala områden.

Min förklaring är att mänsliga språk är bra på att uttrycka logiska samband. Programspråk och latex-kod är ändå bättre på det. LLM är bra på att bearbeta språk enligt mönster den har tränats med, och därför är den bra på att steg för steg lösa logiska problem, som människor gör med papper och penna. Så allt sådant resonerande som kan förklaras verbalt är den bra på.

Jag har tolkat det jag läst av LeCun att han inte ens tror att LLM och chargpt kan utvecklas utöver nuvarande kvalitet, och jag tycker mig ana att du tror det finns utvecklingspotential kvar. Jag ifrågasätter det, eftersom det redan nu krävs ett eget kärnkraftverk för det största AI-centret i Texas.

Utvecklingssteget mellan chatgpt 4 och 5 var tydligen minimalt och det verifierar min åsikt.

Det senare håller jag inte med om, åtminstone inte när det gäller programmering och matematik. Mätningar av LLM:s "50% task completion time horizon" visar att den under många år har fördubblats var 7:e månad, men under 2025 var ökningenstakten klart snabbare. Se https://metr.org/blog/2025-03-19-measuring-ai-ability-to-complete-long-tasks/ .

Som brasklapp kanske man kan lägga till att energiförbrukningen för en dubbling av hastigheten kräver en fyrdubbling av energimängden och antalet processorer och om du har en matematisk begåvning kan du gissa var det slutar.

Det är just detta AI-börsföretagen har problem med nu. De har en något ökande intäktskälla men energikostnaden mångdubblas för denna lilla ökning och de går alltså med större och större förlust.

openAI/chatgpt har pengar kvar för ett år och förra årets förluster blev 14 miljarder USD och de är nu ända borta i Dubai för att tigga mer pengar. Jag är inte helt oplåläst på området.

Ja, man kan aldrig lova att exponentiell utveckling håller för alltid. Om inte annat för att förr eller senare går vår civilisation under. Moores lag har dock varit dödsdömd så länge, men fortfarande sker än exponentiell utveckling av datorers prestanda och minneskapacitet. För att nya sätt att bygga datorer föreslås, och för att det är en självuppfyllande profetia som både hårdvaru- och mjukvaruutvecklare planerar för. Okej datorers prestanda fördubbas inte längre var 18:e månad, utan kanske var 24:e-30:nde månad beroende på datortyp, men utvecklingen har inte stannat av.

Jag tycker du i den här tråden "AI utplånar mänskligheten" tänker tanken att openAI går i konkurs nästa år och vips var hela AI-spåret, som det nu ser ut, borta och det blev ingen utplåning av ekonomiska skäl för att LLM är oekonomiskt. Och vi får vänta kanske 30 år på nästa spår om LeCun har rätt.

Inget hänger på ett enskilt AI-bolag. Anthropic Claude ligger just nu troligen några månader före OpenAI:s ChatGPT, medan Google Gemini och X Grok ligger några månader efter. En bit efter följer Kinas DeepSeek, flera sydkoreanska alternativ och ett franskt, som kan ta vid.

Den verkliga flaskhalsen är i stället hårdvaran. I princip alla använder Nvidias chip, och övriga halvledartillverkare ligger åratal efter.

Ändå värre: Ett krig om Taiwan skulle slå sönder hela halvledartillverkningen och bromsa IT-utvecklingen i många år. Men vill något land verkligen ha det utfallet?

30 år - som du skriver - är helt orimligt.