Ledande AI-teknologi är olämplig för AGI - eller att uppnå prognoser på ersatta jobb

Otroligt intressant artikel som säger det jag har sagt här i forumet tidigare, men med mer kunskap och bakgrundsinformation än vad jag själv någonsin kommer att kunna bidra med. Det går att få en billig prenumeration och det är det värt redan för denna artikel. Kort sagt:

-Lanseringen av LLMs bland företagande är inte så framgångsrik eller linjär som många har velat göra gällande - det har ofta fungerat dåligt, och LLMs har ofta gjort dyrbara misstag.

-Detta är inget som vidare utveckling av LLMs kan göra något åt, eftersom teknologin helt saknar förmåga att resonera. LLMs är probabilistiska modeller och kommer alltid att förbli det, och kommer således alltid att ha denna brist. Hallucinationer och jailbreaks kommer alltid att förbli problem.

-En alternativ, regelbaserade teknologi är inte heller ett alternativ, eftersom det är omöjligt att skapa tillräckligt många regler för att täcka in alla eventualiteter i exempelvis en kontakt med kundtjänst. Den har därför valts bort av AI-industrin till förmån för LLMs. Algoritmer är dessutom utvecklade sedan flera decennier och har såklart möjliggjort enorm automatisering i arbetslivet, men är som sagt inte ett alternativt för AGI eller för att ånyo leda till enorma skillnader i hur vi arbetar i framtiden just eftersom det finns ett "tak" i hur många eventualiteter som kan kartläggas.

Diskutera: Medan AI naturligtvis förändrar arbetslivet kommer det inte att uppnå förhoppningar om hur många jobb som kan ersättas. AI-industrin måste således vara övervärderad - möjligen med väldigt mycket. Medan det såklart ger avtryck på arbetsmarknaden kommer AI alltid att komplimentera människor på ett liknande sätt som algoritmer har gjort de senaste decennierna.

Är jag en bakåtsträvande maskinstormare med överdriven rädsla för AI? Kanske, men det ska sägas att jag använder AI flitigt i arbetet och ser fram emot att utforska vad det kan göra för mig.

Det är väl ingen förutom några (väldigt överbetalda) VDar som inte tror att AI är väldigt övervärderat idag. Att det är en bubbla är lika tydligt som om det hade stått skrivet på månen (datacenter i rymden, kom igen).

Exakt vad som kommer att hända när bubblan spricker är väl lite oklart. Men antagligen blir det bara en återgång till en mer normal retorik. AI är ett fantastiskt verktyg, det kan ingen bubbla i världen ändra på. Men det är just ett verktyg och verktyg kräver att någon håller i dem.

Man brukar väl säga något i stil med att effekterna av ny teknik alltid överdrivs på fem års sikt men underskattas på 50 års sikt. AI kommer definitivt inte att leverera det som utopisterna och alarmisterna förutspår inom de närmaste åren. Men nästan lika säkert är att samhället kommer att se helt annorlunda ut om en generation eller två tack vare förändringar som AI har möjliggjort.

Det är väl det senare i det talesättet som jag vänder mig mot. I dagsläget känns det som att "konsensus" (inte bara inom industrin utan även hos andra företag och institutioner och bland tänkare och journalister) ligger på att AI om 50-år är AGI och kan göra stort sett alla datorbaserade jobb. Jag tror det är en grav överskattning. AI om 50 år kommer inte vara särskilt mycket starkare än vad det är om fem år, och vi kommer fortfarande ha mängder (om än färre) med arbeten inom de sektorer där AI förväntas ta över. Detta såklart förutsatt att vi inte kommer på någon helt ny teknologi för AI - men jag ser inga tecken på att vi ens börjat skrapa på det, och det lär inte bli lättare när så mycket pengar och personal går åt till LLMs.

Vad får dig att tro att du kan förutspå alls hur AI, robotik eller annan teknik utvecklas på 50 år och vad som är möjligt på den tidshorisonten? Skrattretande. Säker på att du inte råkade lägga till en nolla och menade 5 år?

Inget alls, vilket är varför jag diskuterar den ledande (LLM) teknologin och de regelbaserade modeller som är det närmaste och mest använda alternativet. Jag säger alltså inte att vi inte kommer nå AGI på 50 år - som du säger är det omöjligt att förutspå. Jag säger bara att det i dagsläget inte finns något som tyder på det.

Stämmer att LLM-teknik som den fungerar och utvecklas idag genom att primärt bara skala modellstorleken uppåt är osannolik att leda direkt till genombrott som AGI eller ASI utan andra genombrott på vägen och stora innovationer inom modellarkitektur. Men det finns ingen koppling mellan den potentiella bregränsningen och huruvida tillräckligt många jobb kommer ersättas av automation för att fortsätta förvärra arbetsmarknaden, vilket har varit fallet även innan AI kom in i bilden. Kolla på den enormt snabba utvecklingen inom robotik av Kina de senaste åren så ser du det verkliga problemet. Krävs ingen AGI för att ersätta de flesta knegaryrken på lång sikt.

Automation kommer nog göra sin del, men det är alltså inte riktigt ämnet här. Och den begränsningen torde ju ändå vara kopplad till möjligheten att ersätta jobb där förmåga att resonera behövs. Naturligtvis kommer jobb att fortsätta att försvinna på grund av mekanisk automation och algoritmer, och även LLMs kommer att ta sin beskärda del. Jag hävdar bara att den delen är mycket mindre än vad som verkar vara vida accepterat idag.

Problemet är du inte klarar dig ändå om dynamiken jag påpekade förvärras, för även om du inte blir direkt ersatt kommer det finnas tre andra på arbetsmarknaden som konkurrerar om ditt jobb för en lägre lön och en minskad marknad som kan betala för tjänster. Samt de multinationella teknikjättar med låga skatteskyldigheter som konstant ökar marknadsandelen i vår ekonomi med fler permanenta försörjningsberoende när vi samtidigt har lägre skatteintäkter att bekosta de sociala skyddsnäten.

Så visst, du kan hålla diskussionen till enbart dagens LLM-teknik och hävda att den nog inte kommer kunna göra alla jobb, men då missar vi skogen för träden.

Är du bättre på att resonera?

Låt oss testa din hypotes

Ge mig en klurig fråga inom vilket ämne du vill som du tror att Opus 4.8 inte klarar men som du har ett svar på tack vare din överlägsna förmåga att resonera.

Ändå finns det gott om folk som är intresserade av just träd. Forumet handlar ju om AI och inte om arbetsmarknaden.

De flesta av dem du räknar upp är ju sådana som har ett egenintresse av att förstora upp möjligheterna och problemen, antingen för att sälja lösnummer eller för att sälja sig själva Mer nyktra betraktare kommer sällan till tals men den stora majoriteten av människor har ändå ett mått av sunt förnuft och kan se igenom de mest bubbliga bedömningarna.


Det är väl snarare tjänstemannayrkena som kommer att försvinna. AI och datorer mer generellt gör ju egentligen bara för tjänstemännen vad robotar och automation redan gjort för industrijobben.

Men trots att knegarna alltså redan tekniskt sett är utkonkurrerade så finns det ju ingen egentlig brist på arbetaryrken. Mänskliga händer är fortfarande flexiblare och framförallt billigare än allt som robotindustrin kan producera. Till exempel finns det fortfarande några tiotals miljoner sömmerskor trots att det inte är några särskilt svåra uppgifter de sysslar med. Det är helt enkelt inte lönsamt att bygga dyra robotar för att ersätta billiga sömmerskor.

Jag tror vi inte sett ens en bråkdel av de problem som det aggressiva AI införandet kommer orsaka, egentligen är inte "AI" i sig problemet utan att det används hänsynslöst utan minsta eftertanke på vad det kommer kosta både om modellen gör fel, men framförallt det som stått solklart i varenda ekonomirapport sedan 2022... Att tjänsterna kommer explodera i kostnad, det som vi sett nu är bara början.


Jailbreaks är nog inte omöjligt att lösa, orsaken är egentligen i grunden ganska enkel... cross attention, problemet är att det är en nödvändighet för att modellen ska ge illusionen av att förstå instruktioner, men det pågår forskning här och det kommer vara absolut nödvändigt att lösa detta mer än något annat för att man faktiskt ska våga ha modeller på saker där ofiltrerat in data kommer in.

Hallucinationer går inte lösa, de går minimera men tekniken bygger på sannolikhet och slump, outliers som är "korrekt" kommer alltid finnas.


Språkmodeller ÄR regelbaserad teknologi, det är just därför man trodde man kunde lösa de mesta här med "multimodalitet" och senare på "syntetic data", det är inga problem alls om modellerna har blivit tränad för precis alla situationer, då kan man kurvanpassa perfekt, och då behövs det bara en sak- mer träning.


Man kan väl säga så här 2020 talet har inte varit bra på något sätt, först krypto craze sedan covid, sen mer eller mindre världskonflikter på löpande band samtidigt som AI helt hänsynslöst rullats ut.

Det är självklart saker som är bra med tekniken men den är inte lösningen på allt den tillämpas på och framförallt är den inte den där billiga outtröttliga arbetskraften som ledare hoppats på, tvärtom så suger den energi och motivation ur nästan alla som använder den professionellt.