När når vi AGI?

Vet jag inte riktigt. Vem skulle föräldrarna vara för AI?

Jag skulle dock säga att det har att göra med att resultatet för ett NN inte är bättre än träningsdata.

De som irrar iväg med känslor kan dock komma fram till vad som helst. Då har verkligheten ingen betydelse.

Pga mutationer.

Radioaktiv strålning leder till att genom ändras.

Jo, men fel görs väl även vid kodning av program. Det går väl dessutom att hitta en gynnsam felmarginal och applicera naturligt urval där med?

Fast det är irrelevant här. Det man strävar efter är att utdata skall nå ett visst rätt svar.

Det är som jag försökt förklara för cyborgaren utan framgång.

Tränar du ett NN på att leverera kvadratrötter så blir det bättre och bättre på just kvadratrötter. Det är INTE så att med mycket träning så börjar det plötsligt leverera 3:e roten.

När man vet hur NN fungerar och träning av dessa så blir det bara absurt att det skall börja leverera 3:e roten (eller bli "intelligentare än träningsdatat").

Med reinforcement learning så kan man potentiellt hitta nya lösningar på problem. Men det är ett helt annat djur än språkmodellerna. Och tränas på ett helt annat sätt.
Sedan är inte de så fantastiska heller i många sammanhang. T ex finns triviala gamla Atari-spel där de går rejält bet. Pga träningsmetoderna. Det lär gå att förbättra men då talar vi forskning i åratal.
Vissa andra problem är de utmärkta på. Jfr AlphaFold.

Jo, det är ju logiskt.
Men om träningen ligger i att bli bättre på att lösa problem. Då innefattar det ju också att utveckla hårdvaran. Processa information effektivt mm. Eller är det vad du menar med ” reinforcement learning”?

Jag tycker människor fungerar ungefär så som en språkmodell beskrivs. Vi gissar os till resultat baserat på mönsterigenkänning. Vi tycker vi är väldigt avancerade, men tittar man på djupet så verkar det tvärtom, tycker jag. Ungefär så som våra basalaste behov av att andas, äta och dricka mm. Vi behöver inte särskilt mycket när allt kommer i kring. Men vi har ignorerat det och byggt upp ett struktur som ger uttryck för en väldigt komplicerad livsform. Det som började med bara en liten cell måste några år senare gå i skolan, ta körkort, bygga bo… vad är det som säger att en sådan utveckling på något vis skulle vara begränsat till kött och blod?
Utan att vara speciellt insatt i varken det ena eller andra så tycker jag i varje fall att DNA, till exempel, ser väldigt mycket ut som kod. Samtidigt som många funktioner i biologiskt liv verkligen ser ut att vara nästan mekaniska.

The different levels of how Claude Thinks

Den här 5 minuter långa videon från Anthropic är intressant och passar bra i tråden.

https://youtu.be/rKV5JcALQoQ?si=eqh11dxyDumeVViZ

Ledande AI-modeller har löst flera matematiska problem som ingen människa har kunnat lösa. Ditt påstående att en AI bara kan matematik som den har tränats på explicit stämmer inte med verkligheten.

AI’s solution to 87-year-old riddle takes mathematicians by surprise
Mathematicians have been trying to prove the Jacobian conjecture for nearly a century, but now the Claude Fable 5 AI has apparently found a counterexample that disproves it

https://www.newscientist.com/article/2580374-ais-solution-to-87-year-old-riddle-takes-mathematicians-by-surprise/

Vi har dock ingen aning om hur mycket hjälp Fable fick när den hittade motexemplet, så även om det såklart är imponerade betyder det inte att AI på helt egen hand kan lösa olösta matematiska problem.

Det AI har, till skillnad från människor, är möjligheten att jobba outtröttligt och dessutom mycket snabbare, vilket gör det möjligt att testa många fler hypoteser.

Ditt argument är att de fuskade och att det egentligen var deras AI-ingenjörer som löste det olösta matematiska problemet?

Du borde ta upp dina foliehattsteorier här i stället: (FB) Konspirationer och alternativa teorier

Nej, mitt argument är att AI är ett verktyg som kan hjälpa kompetenta människor att lösa svåra problem.

Det är väl så det är också. Åtminstone fram till vi eventuellt upplever det som kallas för AGI mm. Då blir vi väl ett verktyg istället. Det är väl bara en fråga om hierarki?

Det hade varit en annan sak om det varit en lekman som bara bett modellen att lösa ett ännu olöst matematiskt problem.

Vi vet inte hur mycket styrning Fable fick eller om de bollade hypoteser fram och tillbaka.