AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Den hade en del smarta idéer som när en tidig version av Maskinen överbelastade alla sina processorer samtidigt, vilket fick brandlarmet att gå så rummet fylldes av halongas, ett närapå lyckat mordförsök.

Serien var en deckare med sf-inslag. Han som byggde Maskinen ville inte att människorna bara skulle bli redskap som gjorde vad den sa åt dem så han såg till att den bara lämnade ut personnummer på någon som var på något sätt involverad i ett kommande brott, sen var det upp till människor att klura ut vad det handlade om. Ett fiffigt sätt att få mysterier i en serie med en nära allvetande AI. Lite senare dök det upp en AI till så det vart krig mellan två AI med folk i mitten.

https://kampanj.expressen.se/hjarnfonden/ai-kan-fordubbla-inarningstakten/

Denna artikel/reklam är ju inte publicerad av ai, det ser man ju på url, felstavad. Men iallafall, intressant ämne. "Med hjälp av AI skulle vi kunna halvera tiden som barn går i grundskolan, säger han." Hjärnfonden står bakom artikel.

I Idébyrån diskuterades det här ämnet. Om skillnaden mellan medvetande och det som verkar vara medvetande. Om förmänskligande av maskiner och känslor för desamma. Jag håller här med fysikprofessor Ulf Danielsson. Nämligen att det nog inte går att få till ett medvetande på det sätt vi nu arbetar. Dvs att genom att utrusta maskiner med alltmer avancerade elektronikkretsar och alltmer avancerade programvara. Vi får bara avancerade "räknemaskiner" med allt större beräkningsförmåga men det har inget med liv, medvetande eller en maskins egen vilja att göra. Ska människan kunna åstadkomma artificiellt medvetande krävs något helt annat. För övrigt så anser jag det inte önskvärt heller. Efter att ha sysslat med programmering i över 20 år och diskuterat med folk verksamma inom den s.k. AI-utvecklingen så har jag heller aldrig där stött på någon som på allvar tror att vi kan åstadkomma medvetande och liv med transistorbaserad teknik:

Idébyrån - avsnitt 4

ChatGPT börjar investera i en fond. Kanske kan den få ett finansiellt övertag över människan: (FB) ChatGPT fond

Skrev ett trådsvar nyligen och funderade vidare lite och tyckte att detta förtjänade en egen tråd.

Det hela började för länge sedan när jag studerade Fermis paradox varför vi inte blivit kontaktade av utomjordingar än. En teori är the great filter. Det innebär att någonstans i utvecklingen mellan en sten till encellig amöba till en rymdfarande civilisation så finns något som benämns the great filter. Dit kommer det mesta livet men endast ett fåtal om ens några passerar det. The great filter skall vara ett event som är så osannolikt att passera att det om det hänt på jorden bara hänt i princip en gång.

Förhoppningen är att vi redan passerat filtret som skulle kunna vara övergången från encelligt liv till flercelligt liv, något vi med vår kunskap tror skett endast vid ett tillfälle här på jorden. Andra tror att vi har filtret framför oss i form av att tekniken leder till att man förstör sin planet (miljöförstöring), kärnvapen och AI är andra heta kandidater till the great filter.

I samma veva som jag läste mycket om detta kom man in på just teknikutvecklingen och även informations flödets roll i teknikutvecklingen och man kan konstatera att teknikutvecklingen inte följer ett linjärt mönster utan snarare en logaritmisk linje.

WOW effekten är den effekt när man hämtar en människa från det förflutna (x antal år sedan) och släpper ut i samhället och ser om den "överlever chocken".

Ta för länge sedan när människan var jägare.. Då kunde du ta en människa från 200 000 år sedan och släppa lös och den skulle känna igen sig. Wow har ni lärt er att ta vara på elden.. På min tid brann det här och var när åskan slog ner men vi tänkte aldrig på att vi kunde samla ved och behålla elden på samma ställe.. Sedan kunde du ta en människa från 100 000 år tillbaka Wow vilka fina stenpilspetsar ni har.. på min tid kunde vi inte få dem så vassa... osv osv 50 000 år tillbaka wow har ni uppfunnit hjulet så man kan åka vagn efter hästen.. Nu är vi nere på under 50 år.. WTF? Färg tv och ni kan se det i trådlösa telefoner??? Internet? Självkörande bilar?

En del i denna utveckling är informations spridningen.. Från att passera informationen till sina barn icke verbalt.. till uppfinningen av språket men då fortfarande ytterst lokalt.. Kom en hungrig tiger och åt upp den lilla byn var informationen förlorad för alltid.. Till skrift.. runstenar som endast kunde förmedla begränsad information.. fortfarande väldigt lokalt.. till de lärda som skrev böcker som sakterliga kunde spridas till större andel av världspopulationen och först då började informationen skyddas mellan generationerna för om tigern åt upp byn så kanske en bok med deras kunskap fanns som kopia e en annan by.. men fortfarande kunde inte genier hitta varandra. De kunde leva samtidigt.. en i Sverige och en i tyskland men trots att bägge hade samma intresse kände de inte till varandra utan var och en forskade på samma sak utifrån sin egen erfarenhet.. till tryckpressen och nu kunde ideer massproduceras och spridas till en större befolkning. Genier kunde få kontakt då den ena massproducerade sin forskning och den andre kunde söka upp författaren och bolla sina ideer. De behövde inte göra allt själva från grunden utan kunde börja bygga på varandras resultat.. till telefonen kunde snabbare ta del av andras resultat till internet där man kan följa varandras experiment i realtid. Väldigt lätt att komma i kontakt med personer inom samma område via forum osv osv.

Ser man historiskt så har processerna överlappat väldigt långsamt när större förändringar i samhället skett flera hundra tusen år mellan jägare till bofasta. Men ta industrialiseringen.. Blott 100 år give or take.

Under industrialiseringen hittade man på maskiner som kunde efterapa hur en människa skulle göra något (tex fylla på en Coca Cola flaska och skruva på locket). Även om en maskin på sikt kunde ersätta flera hundra anställda gick förändringen i långsam takt och maskinen var inte supereffektiv från början utan behövde flera iterationer.. För ett företag var maskinen en dyr investering så företaget kunde inte köpa in varenda maskin som kom.. Kunde du fylla 10 flaskor i minuten lönade det sig inte att köpa det senaste åbäket som kunde fylla 11 flaskor i minuten.. 5 år senare när maskinen kunde fylla 50 flaskor i minuten blev det dock intressant att investera igen.

Även om industrialiseringen har gått fort så har många klarat av takten MEN många blev även utslagna.

Nutid:

Många tunga jobb har automatiserats bort via en tidsödande process som krävt enorma investeringar. Operatörerna på fabriken finns där på grund av sin intelligens. De klarar saker som maskinen inte klarar..till ett rimligt pris. För ett litet företag är det billigare att ha en underbetald fabriksarbetare som flyttar pallar och fyller på maskinen eftersom det skulle bli för dyrt att hitta en robotlösning med skenor och sensorer som gör samma jobb..

Vi har reducerats till vår hjärna.. kropparna av 5000 fiskfiletterande tanter har ersatts av en filetteringsmaskin.. Den stora "muskelmassan" är redan borta ur ekvationen och kvar är nu hjärnan.. Som kan köpas extremt billigt i form av en dator. En filetteringsmaskin som ersätter 5000 tanter är ett stort åbäke, mycket stål och el.. kostar flera miljoner.. men en dator.. det är ju vad ungarna leker med nu för tiden..
En dator kommer nu kunna ersätta 500 kundsupport gubbar till en kostnad av 15000 kr inköpskostnad. En uppdatering av mjukvaran laddas ner efter 2 veckor och har genom kodeffektiviseringar ökat kapaciteten så att den nu kan ersätta 600 kundsupportgubbar istället.

När AI:n på allvar slår igenom kommer mjukvaran uppdatera sig själv efter en natt har den ersatt 1200 kundsupportsnubbar och efter nästa uppdatering kl 12 på förmiddagen har den ersatt alla kundsupportgubbar i hela världen.

Kolla bara på hur "lång" tid det tog att fasa ut ett yrke förr i tiden.. folk hade tid att skola om sig alternativt kunde få förtidspension.. Tog ett halvt yrkesliv..

Nu AI kommer bli framtiden
Måndag: WOW kolla chatGPT.. vilken cool chatbott
2v senare: Oj den här kommer nog klara kundsupport.. jag omskolar mig till musiker istället
2v senare: Fan AI kan ju göra bra låtar.. får bli konstnär istället
1v senare: Wow AI genererade bilder.. fan den kan spotta ut 100 bilder i sekunden.. kommer aldrig kunna konkurrera mot det..

Iterationshastigheten kommer öka så mycket snabbare än vi hinner ställa om samtidigt som investeringskostnaden i form av kraftfullare datorer eller mer ram minne kommer krympa mot 0 så folket kommer inte ha en chans att ställa om.

Visst kommer det finnas en tröghet i systemet så som att det fortfarande finns kvar en hel del folk som chat GPT idag skulle kunna ersatt med bättre resultat men ägarna/styrelserna är fortfarande tagna på sängen. Denna process kommer säkert bli snabbare i framtiden.

En enorm mängd människor kommer på väldigt kort tid stå utan försörjning. Rikedomen kommer snabbt koncentreras till de som äger bästa AI:n.
Det kommer sannolikt bli ganska oroligt när 9 500 000 svennar står utan jobb på minimala bidrag (för att kunna överleva) samtidigt som ett fåtal kommer ha ett liv i lyx och överflöd.. Upplopp och Krig..

På sikt kommer det stabilisera sig men AI gör allt, människor börjar tröttna på att slå dank och spela fickpingis. De har inte längre något syfte, AI kan göra allt så mycket bättre. Den psykiska ohälsan sprider sig i samhället och många som känner att livet mist sin mening avstår från att skaffa barn. Varför stå ut med en kärring när nya generationens knulldockor är bättre på alla sätt och kan spruta öl ur tuttarna?

Efter några generationer har människobeståndet fallit till farligt låga nivåer. De människor som är kvar har levt ett par generationer med AI och antingen känner de menlöshet och dör ut i takt med att nästa generations knulldockor kan stimulera belöningscentrum ännu bättre eller så har de hunnit börja anpassa sig till livet med AI och funnit en annan mening med tillvaron där de går mot en ny guldålder.

Oavsett så tror jag vi står på randen för en stor befolkningsreduktion. För oss och våra barn ser framtiden rätt mörk ut även om våra barn barns barns barn kanske går en riktig guldålder till mötes.

Phew blev en long post så antar att inte många kommer orka läsa och diskutera den men gör ett försök iallafall. Hur tror ni intåget av AI kommer påverka människan? Speciellt med den potentiellt snabba uppdateringsfrekvensen och låga investeringskostnaden. Kommer vi palla med att förändras i samma takt som samhället eller kommer vi gå under i psykisk ohälsa.. Ta de pensionärer idag som trots 20 år med tekniken har svårigheter att handskas med en smartphone eller bank ID.. Tänk när en sådan förändring dyvlas på dig i veckan..
-Nej vi använder inte smartphones längre, pappa du måste lära dig använda koolimoli istället.. Du bara rensar tankarna och tänker på ett primtal så ringer den upp mig.
- Nu tror jag att det funkar hallå?
-Pappa koolimoli blev ju omodernt redan i förrgår. Du måste uppdatera till kvantifanti.. Du behöver bara föreställa dig hur tidens hastighet förändrar sig med hastigheten för att låsa upp bakfunktionerna.. hur lätt som helst.. oh vänta nu är uppdateringen här..

Tror ni människan kommer fortsätta utvecklas om AI slår en på allt eller kommer folk bli deprimerade och "ge upp"? Kommer vi kunna hitta någon mening i vår existens om vi i grunden känner oss överflödiga?

Vad tror ni?

Jag skulle nog behöva 8-10 000 ord för att besvara detta inlägg, så jag väljer att svara med en motfråga.

Under 10 000-tals år avbildade människor saker som de såg och föreställde sig.
Bildkonsten utvecklades och bilderna som skapades blev allt mer verklighetstrogna.

Sedan uppfanns kameran, en apparat som kunde avbilda verkligheten mer realistiskt än vad någon konstnär kunde.

Vad hände då med konsten?

Som jag ser det så skapar vi en ny simulation på sikt. Vi lever redan i en simulation - och nu skapar vi en ny. Detta kommer att ske succesivt i takt med att vi som människor isoleras alltmer fysiskt och när folk får för sig att de måste ha ett chip i hjärnan (ca 2030). Gränsen mellan denna verklighet och virtuella verkligheter börjar redan att suddas ut. Kidsen bryr sig inte om vad som är verkligt eller inte längre. Om transhumanisterna får som de vill så sker denna singularitet (WoW-effekt Deluxe) senast 2045. Troligtvis mycket fortare än så.

Innan allt detta har skett så kommer det naturligtvis också någon form av medborgarlön. Jag tror dock inte att den kommer utan motprestation. Och folk som baserar hela sin liv och självvärde på arbete kommer naturligtvis att få det jobbigt.

Om vi hittar saker där vi behövs och som kan utveckla oss och som vi finner vara intressant.
Det finns ju massor.
Men vi anstränger hjärnan allt mindre och blir dummare för var dag kanske.

Tror du har rätt och stämmer med mina egna tankar. Det faktum att vi skapar simuleringar, talar för att detta är en simulering.

Vi försöker idag substituera sinnets förmåga att uppfatta verkligheten genom tal, skrift och bilder. Väldigt många människor har svårt att hantera detta och blir helt enkelt beroende av det. De börjar dyrka ideologier och blir bokstavstroende eftersom deras verklighetsuppfattning präglats av ord och bilder.

Kanske AI faktiskt kan få mänskligheten att inse hur falskt informationsflödet är och hur lätt vi manipuleras av det. Kanske tal, skrift och bilder genom AI kan bli det trubbiga verktyg som det faktiskt är och att vi återgår till att uppleva verkligheten genom att lukta, se, känna, smaka och lyssna.

Vet inte riktigt om jag förstår tankarna i din långa text.
Är kärnan att AI kommer att död oss, inte direkt genom att anfalla med vapen eller liknande, men helt enkelt ta alla jobb och få oss att känna oss överflödiga och tappa livslusten?

I så fall kan jag hålla med. Jag har själv tyckt att teknikutvecklingen under mitt liv varit mestadels positivi och häftig. Men känslan när man ser att en dator kan ta över allt mer av mänskligt skapande och liknande ger en annan känsla, en lite vemodig känsla.

Du verkar inte riktigt förstå ekonomi. Ponera att det blir som du säger, exakt allt automatiseras av ett fåtal bolag, alla är arbetslösa, vem ska betala dessa herrars lön? Utan konsumenter med pengar finns ingen köpkraft.