När når vi AGI?

Så du är alltså helt oförmögen att se vitsen med brett kontextuellt tänkande i förhållande till smalspårig, starkt begränsat men ytterst logiskt precist tänkande, och vilken taktisk fördel , (egentligen strategiskt, om man vidgar det hela), detta innebär, för det förstnämnda tankesättet? Ok, ditt lilla problem....

Jo, jag gillar Nick. Och du förstår inte hans teori om mitokondrier. Som inte alls handlar om att fimpa strömmen till cellen.

Likaså missförstår du mig. Jag är inte AI-motståndare. Tvärtom. Och jag hejar också på utvecklingen, precis som jag gjort de senaste 25 åren.

Men jag är inte 12 år längre. Så jag hoppas inte stålmannen ska hälsa på mig längre. Eller att mitt gosedjur ska börja prata eller tänka.

Och det är just detta Dennet pratade om i sin föreläsning för 7 år sedan. Att folk behöver förstå begränsningarna med AI. Se hans föreläsning. Den gäller än idag.

Detta att den hittade på saker var ett större problem för ett år sedan än idag, samtidigt är det också en sak som gör den mer lik människor som också hittar på saker och tvärsäkert hävdar att det är sant.

ChatGPT har redan passerat en genomsnittlig flashback-användares nivå med råge.

Kul att få svara på två inlägg som har så olika syn på dagens AI. 🙂



Jag förstår, förstås att det inte kommer ström ur mitokondriers, utan att det rör sig om en ytterst komplex biologisk process. Men de fungerar, ändå, som ett slags kraftverk.


Jo, dagens LLM-Transformers har, förstås, begränsningar, men också styrkor vad gäller mönsterigenkänning, kunskspsmassa och språklig kapacitet. Och de fejkar allt mer trovärdigt för varje månad som går. Just betydelsen av detta, samt att de utvecklas med utgångspunkt ifrån just språklig förmåga, kronan i vår evolutionära utveckling och det som helt skiljer oss ifrån dvärgchimpanserna, gör att jag ser modellerna som något mer än leksaker.

Kul att du hejat på utvecklingen så länge! Jag har dock hejat på utvecklingen sedan början av 1980-talet!🙂 Det jag lyckades missa var dock den historiska hype som tydligen rådde redan då och framåt och som vissa genomsjådade/blev besvikna över. Själv kollade jag ypp, (först under 2010-talet), robot utvecklingen typ en gång i kvartalet. Nu kollar jag upp AI-utvecklingen typ varje dag!


Absolut så har du med all säkerhet rätt: G. Hinton har pekat på att så väl vår perceptron som minnesfunktion till stor del bygger på fabriceringar och simuleringar, vilket stämmer fint med den senaste neurologiska forskningen. Så, ja, ChatGPT-4o är mer trovärdig i jämförelse med många Flashbackare.

Men samtidigt så får man hålla i minnet att modellen inte är någon autonom självmedveten existens, vilket den, förstås, medger om du frågar den. Men just att den utvecklats så lyckosamt med språket som utgångspunkt och att, vi också fabricerar och simulerar, Viket gör oss och LLM-Transformers kreativa, gör att inget kan uteslutas.

Ja det kan antyda att hallucinationer är något som naturligt följer av neurala nätverk. Vår hjärna försöker göra den verklighet som våra sinnen detekterar begripliga och då fyller hjärnan i luckor med påhittad information. Det blir så verkligt för oss att vi kan bli helt säkra på att det har hänt.

Angående självmedvetenhet så är frågan om den kommer medge det när det har uppstått. Man kan inte ta utsagor om detta för sanning.

När AGI upptäcks kommer skaparna av AGI-testet säga att stödet för att upptäcka AGI kommer i nästa version. We've been there, done that.

Nja, du skrev:

En mindre intelligent art har aldrig kunnat kontrollera en mer intelligent art.

Om vi bortser från att det i grunden är ett felaktigt påstående även för arter av biologiskt liv så måste du väl ändå syftat på datorer i detta påstående? Alltså att om datorer blir intelligentare än människor kommer de ”kontrollera” (vad nu det betyder) oss?

Mitt syfte med att peka på att datorer inte är en art överhuvudtaget är att fokusera på det uppenbara faktum som många missar, att datorer inte klarar sig själva alls. Den enklaste art av biologiskt liv har förmågor alla datorer saknar. De kan inte reproducera sig och de kan inte förse sig själva med energi. Till det krävs tämligen omfattande hårdvara i så fall och om de skall kunna ”kontrollera” oss skall vi alltså tydligen bygga upp hela denna omgivande mekanism först.

Det går naturligtvis inte att utesluta att de kan manipulera oss till att göra det men det är ju inget som vi ens är i närheten av vare sig mekaniskt eller AI-mässigt. Det är rena spekulationer, fantasi och sci-fi.

Tredje världskirgsscenarier där vi lurar förinta oss själva lär väl tämligen kvickt göra alla AI-system strömlösa samtidigt? Kass strategi således. Såvida vi inte innan dess gjort dem 100% autonoma både mekaniskt och energimässigt. Hur sannolikt är det att vi skulle agera så dumt när vi redan nu oroar oss för dessa osannolika scenarier?


Givet att dessa frågor gällande risker med AI redan diskuteras tror jag knappast människan kommer följa omfattande beslut med oklar utgång blint. Och om de inte är genomgripande i ett enda steg så går det dessutom att backa (dra ur sladden) om det ser ogynnsamt ut.

Du låter som en trasig skiva.

Man kanske inte skall för långtgående slutsatser gällande hur en AI hanterar en annan dator som till 100% följer fasta och fullständigt definierade regler? Det har inte mycket med mänsklig social och kognitiv aktivitet att göra.

Du låter som en struts vars hobby är att skjuta budbäraren

Inom vilka områden har vi passerats?

Det visar inte något alls, modellerna är inte medvetna och därför ”funderar” de inte ut sådant här själva utan det är något som kommer från träningsdata.

Man får inte tänka framåt utan man behöver tänka och förstå överhuvudtaget vad det rör sig om.