När når vi AGI?

Det var ju jag som nämnde ordet arkitektur först. GPT är en arkitektur. Som innehåller flera koncept och algoritmer. Det är alltså inte 1 st algoritm.

GPT4o: Ja, GPT (Generative Pre-trained Transformer) är en AI-modell baserad på transformerarkitekturen. Den är tränad på stora mängder textdata för att generera och förstå mänskligt språk.

Jag har inte sagt något om huruvida du nämnt ordet arkitektur, jag håller med om att det finns en sådan i alla LLM:er och liknande AI-modeller. Jag säger heller inte att GPT enbart är en algoritm, utan att den är en algoritm som består av flera mindre sådana, likt ett datorprogram.

Det är känt exakt hur dessa fungerar, eftersom de är byggda av människor. Det är också känt exakt hur dessa samspelar med varandra eftersom de är sammansatta av människor. Det finns ingen magi, utan det är noggrant designat av intelligenta människor.

Ungefär som en Fax-maskin. Alltså inte mer värt?

Håller stort men men tycker man i de här resonemangen ofta missar den kroppsliga autonomin. Medvetenhet och självreflektion kommer ofta med i resonemangen men en intelligens som inte sitter i en självständig rörlig organism som kan lösa sitt eget energibehovet är knappast "överlägsen" människan.

Ungefär så, ja. Det rör sig inte om någon autonom entitet med egen vilja, utan ett datorprogram som har "lärt sig" att generera grammatiskt och (till viss del) faktuellt korrekt text.

Missförstå mig inte, människor som använder sig av dessa modeller med onda intentioner kan få hjälp att orsaka mer skada än de kunnat utan dem. Inte för att modellerna är intelligenta i sig, utan för att de potentiellt kan generera korrekt information som är skräddarsydd för dina behov.

Du skulle kunna åstadkomma samma sak genom att finkamma Internet och spendera timmar på att lära dig det du vill göra, men en LLM kortar ned den tiden avsevärt.

Det är ett problem. Ett större problem är om en ASI blir självmedveten. Varför skulle det vara omöjligt?

Du är väl med på att o3-modellen har åtminstone 100 i IQ?

En katt har inte 100 i IQ men kommer att försöka överleva inklusive att äta människor om den måste det för att överleva.

Alltså behövs inte IQ 100 för att vi ska ha ett problem.

Absolut ungefär så (för att sno Erkkis ord). En LLM är lika bra på att resonera, eller prata, som en miniräknare är på att räkna. Eller t.o.m sämre när jag tänker på det

Den har 100 IQ, enligt vem annan än dig själv?

Att o1 fick 120 i verbal IQ på något test skapat av en medlem i Mensa(?) innebär ju inte på något vis att modellen faktiskt är intelligent.

Precis som att ARC-AGI inte är något definitivt test för AGI så är inte ett IQ-test något definitivt mått på intelligens. Är det inte du som ständigt hävdar att vi inte kan använda oss av verktyg framtagna för att mäta/förstå mänsklig kognition och beteende på AI? Varför duger i sådant fall ett verktyg för att mäta mänsklig intelligens för att avgöra AI:s intelligens?

Att modellen har lyckats lösa många fler ARC-problem (när den har tränats på deras publika dataset) än någon annan modell visar inte att den har nått mänsklig nivå. Trots att den spenderar över en minut i snitt per uppgift, till en kostnad av $20, så har den fortfarande fel på ca 25% av uppgifterna. Med över 170x (tror jag det var) mer beräkningskraft och 13x längre tid per uppgift når den en förbättring med hela 12 procentenheter. Detta är alltså uppgifter som är enkla för 95% av människor (åtminstone enligt ARC-teamet själva).

1. Det är en meningslös fråga i nuläget eftersom dagens AI-modeller till att börja med enbart är aktiva när de matas med något av det omgivande systemet. Självmedvetenhet utan kontinuitet har jag svårt att tänka mig kan existera.

2. I en framtid där vi tänker oss ett system som blir självmedvetet så kan man ju tänka sig två scenarier ifall det sker på ett laboratorium:
a) Systemet visar inte att det blivit självmedvetet och tänker ut illvilliga planer.
b) Systemet visar att det är självmedvetet, varvid människor har goda möjligheter att hantera situationen. T.ex. dra ur sladden som förser systemet med elektricitet.

a) Skulle kunna vara potentiellt farligt, men frågan är om framtidens människor kommer vara så dumma att de inte fattar när systemet ber om att få utökas med diverse omgivande system som gör det autonomt.

Så länge det inte är autonomt i någon mening har jag svårt att se att systemet självt är farligt, däremot kan det naturligtvsi användas illvilligt av en fiende.

Slutligen kan man ju tänka sig någon slags distribuerad intelligens som är svår att stoppa och som kanske spänner över diverse mer eller mindre självstyrande robotar. Om det gjorts autonomt vad gäller att förse sig självt med energi borde det kunna bli farligt, annars inte.

Dessutom mäter inte IQ generell intelligens som sådan. IQ korrelerar med generell intelligens hos människor. Men maskiner är inte människor, IQ säger inget alls om vad maskinen i övrigt klarar och det mäter inte medvetenhet eller självreflektion naturligtvis.

Tror du detta är ett slagkraftigt argument mot någon som i ett årstid skrikit om att GPT-4 ska rymma, att GPT-4 fått 152 på ett verbalt IQ test och nu när nya modeller kommit, gapar om något jävla norskt mensa test som inte heller det är sant för läsförståelsen och engelskan är så dålig att han inte förstår att artikelförfattaren skrev att testskaparen var medlem i norska mensa, ett nyskapat test alltså som har noll kredibilitet och enbart blivit samplat mot test skaparens följare.

Det är poänglöst att argumentera med denna som återkommer under olika skepnader hela tiden, det är en mental vårdinrättning i den här forumsdelen och tyvärr bara en massa tramsande och skitsnack hela tiden och modsen låter tydligen sådan hållas speciellt eftersom personen ifråga råkat posta från fel användare vid ett flertal tillfällen.

Den som tror på medvetet AI behöver se det här klippet.

Bernardo Kastrup om varför AI aldrig kan vara medvetet.

https://youtu.be/mS6saSwD4DA?si=nJcziKPyVdznVyVz