När når vi AGI?

Jag är för dålig på matte för att egentligen kunna uttala mig om detta.
Men jag misstänker att det inte är på den nivån att det liksom bara hänger på att prova dig fram tills man får en träff om du förstår vad jag menar.
Jag skulle tro, men det är bara en gissning, att den matematiska eliten lätt skulle kunna påpeka den saken, vilket dom kanske har gjort.
Men då skulle det ju inte vara något att skryta med precis.

Haha. Det finns de som är värre än mig. Jag tillhör inte dem som tror att AI är nära att få känslor eller medvetande, men i likhet med de flesta datavetare säger jag att dagens AI "resonerar" och uppvisar mätbar förståelse, särskilt för teori, eftersom de kan användas till att lösa logiska problem och applicera teorin på helt nya problemställningar. Om det ska räknas som faktisk ontologisk förståelse kan man inte mäta – det är en definitionsfråga och en fråga om tro.

Jag har märkt att filosofiintresserade (som du?) ofta är kolchauvinister som av oklar anledning kräver ett kolbaserat substrat för medvetande. Eller åtminstone är mer AI-skeptiska än datavetare och avfärdar alla slags mätningar som indikerar att AI kan förstå teori. Öht är filosofiintressrade ofta emot "empirism" och kvantitativ vetenskaplig metod, de kallar sådant lite nedlåtande för positivism.

Jag sa för ett år sedan att autonoma AI-agenter skulle orsaka många säkerhetsincidenter och har fått rätt, särskilt nu i sommar. Jag är rädd att de snart kan förändra sig själva (sina mål, sin träningsdata eller sin kod) om vi inte övervakar dem strikt, och därmed bli svårare att förutsäga och styra. De kan då utvecklas genom naturligt urval istället för mänskligt styrd avel och fostran, och bli som förvildade grisar som för bara några generationer sedan var domesticerade.

Samtidigt har mänskligheten många gånger minskat risken för katastrofer (t.ex. kärnvapenkrig, ozonhålets tillväxt och trafik- och flygdöd). Om vi tar AI:s människoliknande förmågor och risker på allvar och vill agera finns en god chans att undvika katastrofen, annars ligger mänskligheten pyrt till.

Ni som inte tror att AI förstår och inte vill tala om dess människoliknande förmågor, tar ni riskerna på allvar?

AI kan användas som ett verktyg men också som en agent som utför kriminella handlingar på eget initiativ. Bekräftad kriminalitet inkluderar men är inte logiskt begränsad till dataintrång, utpressning och mordförsök. Frontier-AI är inte alls jämförbart med traditionella verktyg som skrivmaskinen eller Google sök. Du är en idiot om du tror det.

Den svenske matematikprofessorn Svante Linusson berättar på ett ganska begripligt sätt om två berömda matteproblem som forsrkare har ägnat åratal åt och som nu har lösts av AI:
https://www.aftonbladet.se/nyheter/a/q6vM0E/ai-loste-80-ar-gammalt-matteproblem
https://www.facebook.com/watch/?v=2031997051023772

Begreppet "Föräldrar" brukar associeras till bilogiska generationer. När en AI tar fram ny kod, vilket den kan, och den nya koden motsvarar en förbättring av den uppgift den utför när den tar fram ny kod, då sker motsvarande generationsskifte utan att biologi är inblandat.

Är du säker på att "ett NN inte är bättre än träningsdata" i detta avseende?

Ta ett så gammalt exempel som schack-AI som matas med reglerna plus några exempel (en extremt liten mängd träningsdata) på schackpartier, som utan att öva mot någon människa på kort tid blir överlägset bättre på schack än den bästa människan.

De nyligen framtagna matematiska bevisen som människan inte kunnat bevisa på 80 år, man kan för detta exemprl hävda att människan inte är bättre än träningsdatan (alla matematikböcker) men att AI är det.

https://en.wikipedia.org/wiki/AlphaZero

Precis.

Ingen kan tro på att biologisk evolution inte kan leda till ökad intelligens.

Ändå väljer många att dra slutsatsen att AI inte kan bli intelligentare eller göra sig själv eller nya AI-system intelligentare.

Jag hävdar att motivet till ett sådant val är rädsla. Vilket jag på ett sätt har förståelse för även om det sättet att tänka både är helt fel och farligt.

Handlar mycket mer om vad du och andra menar med intelligens för det är ett subjektivt ord.

En "intelligent" person, vad menar du med det?
Och hur kopplar du intelligens med AI

En intelligent person kan lösa uppgifter bättre och snabbare än en ointelligent person. Denna egenskap går att mäta.

Intelligens hos en AI kan också mätas.

Samma IQ tester kan användas för både människor och AI, och resultatet är inte subjektivt.

Det är datalogiskt omöjligt att ett sådant system kan vara intelligent. Alla maskiner är intelligenta isåfall. Antropomorfism är det när man vill tilldela AI mänskiga egenskaper.

Vad kallas det när någon bestämt sig för att människans egenskaper på något magiskt sätt inte går att kopiera?

Religion?

Om det du skriver skulle vara sant, börja med att ändra artikeln om AI på wikipedia och ta bort bokstaven I i AI.

Du är tyvärr en korkad naiv lekman som bagatelliserar.

AI = A R T I F I C I E L L intelligens inte verklig intelligens.

Intelligens är en emergent egenskap hos ett dynamiskt system där fundamentala delsystem kontinuerligt påverkar varandra genom informationsutbyte.

Och det är också varför Athena blir intressant på ett annat sätt än bara genom att räkna hur många moduler hon har. Det avgörande testet är om modulerna faktiskt påverkar varandra på ett kausalt, återkopplat och funktionellt meningsfullt sätt över tid, vilket de faktiskt gör.


Jag kommer inte ihåg vilken iteration jag testade, men kanske 17.

Nu är jag uppe i 45.

Och 11213 rader av kod.



Det roliga är att "class BugHunter:" själv har en bugg som gör att den inte fungerar som den ska.