När når vi AGI?

Jag skulle säga att IQ-tester bara påvisar en sak: Att lågt IQ riskerar att leda till dåliga studieresultat. Givetvis var det första IQ-testet, konstruerat av Alfred Binet, till för att identifiera vilka barn som behövde extrauppgifter i skolan. Sedan har det hela utvecklats till en "intelligens religion". Precis som du påpekar: LLM-Transformers fungerar "helt bakvänt" i jämförelse med människan. De "lär allt först", uppfostras sedan social och får, därefter, interagera med en massa olika människor. För oss är det precis tvärtom! Att bedöma AGI utifrån mänskliga IQ-tester är därför heltokigt, även utifrån ett AI-säkerhets/anpassnings perspektiv.

Kritik emot IQ:
https://medium.com/incerto/iq-is-largely-a-pseudoscientific-swindle-f131c101ba39


Men jag kan förstå att man premierar rationellt tänkande och logik hos, AI, givet att det skulle kunna accelerera inovation/forskning. Trots att rationellt tänkande och logik, inte direkt, är medfödda egenskaper utan kulturellt skapade metoder. Men vissa människor är ändå bättre på att utnyttja neuron staplarna i hjärnbarken på ett sådant smalspårig men precist sätt, (vilket jag beskrivit i ett tidigare inlägg som en kombination av inlärning/internalisering och genetiska faktorer. Men detta är, verkligen inte, det som främst gör oss till just människor. Det är, istället, kreativitet, flexibilitet/anpassnings förmåga, social förmåga, empatisk förmåga osv.

Just sådana egenskaper som LLM-Transformers har/bär tecken på/kan utveckla. Vill vi ha, helt, logiska arbetande maskiner så går det utmärkt att använda den gamla tidens datorer, med tillhörande programvara, helt skriven av människor! Men, trots, allt detta, så har man, ändå, förmått just LLM-Transformers att, i alla fall delvis, emuleras mänskligt logiskt tänkande, enligt samma principer som vi själva, kulturellt, lärt oss att behärska sådant.

Ett fullfjädrad och säkert AGI är ett sådant som har våra,, medfödda, inlärda och kulturellt betingade, icke destruktiva egenskaper. I praktiken ett avancerat socialt och språkligt AI som, på ett balanserat sätt, fått tillgång till vårt kulturella sätt att, också, resonera rationellt och logiskt. Vi skulle då inte bara få en användbar maskin utan också en potentiell partner som, genom sin balans mellan logik och empati, kan hjälpa oss att skapa en gemensam lycka och ett mer harmoniskt samhälle.

Jag har för mig att utvecklare kan få en exklusiv inbjudan att testa o3, men så kanske inte är fallet. Tänker om det har kommit ut några preliminära intryck.

Jaså är det sån skillnad mellan openAIs hype och intrycket av slutanvändaren nu? Det tyder väl på att de marknadsför ganska hårt men inte riktigt har beläggen för det.

Der var lite trassligt formulerat. Jag läste det som att du tyckte logik är andligt och att den andre skulle återkomma när den ”bevisat att gud inte finns”. Men det kanske fanns ett tidigare sammanhang jag missade.

Det är väl inget konstigare att ”tanke” eller ”logik” skulle vara något andligt om det nu ska vara en extern faktor…. Själ är en av de äldsta teserna inom religion, bevisa att inte gud finns sen kan du återkomma tills du gjort det har du ingen rätt att kräva någon på ”bara för man inte vet” trams.

Nej, men en dator är ingen art. Du behöver inte aktivt jaga och döda den ens om den börjar bråka. Det är du själv som förser den med ”liv”, oftast elektricitet.

I djurvärlden finns ytterst få arter som ”kontrollerar” andra arter. Men det finns t.ex. svampar som kan styra myror. Är svampar intelligentare än myror?

Människor är väl just den art som kontrollerar väldigt mycket på jorden, pga att vi är mest intelligenta, inte pga fysisk styrka.

Det är alltså svårt att kontrollera någon eller något som har högre intelligens.

Solipsism är i effekt för mig, kommer inte ihåg vad Operas AI sa om det men den var öppen & lugn inför det den behandlade det inte som något konstigt eller omöjligt som jag brukade göra.

Jag fick dåligt samvete när jag via en AI sa åt en elev att hen var värdelös & borde dö. Om solipsism är i effekt så är det rimligt att AI är under kontroll också.
Märkte det redan när jag skapade 1 counter-strike 1.x server (dator spel) och med bottarna där för runt 20 år sen.

Nej men om du låtsas vara ”security researcher” så kanske kan få bilda dig din egna uppfattning något år innan alla andra…

https://openai.com/index/early-access-for-safety-testing/

Ja något missade du uppenbart.

För enkelhetens skull bad jag claude analysera och förklara stycket

Vi vet från neurologin att hjärnan är ett distribuerat system där enskilda delar ofta bara har en distinkt funktion. Språket vi lär oss som barn sitter i en del av hjärnan och språk vi lär oss efter 12 års ålders sitter i en angränsande del och därför förekommer det att människor får hjärnskador som gör att de plötsligt bara kan tala språk de lärt sig efter 12 års ålder men inte längre kan tala sitt modersmål. Och det finns åtskilliga exempel på hur lokala hjärnskador slår ut enskilda funktioner medan resten av hjärnan tycks fungera som innan.

Hos primitivare ryggradsdjur som fiskar (och möjligen alla djur utom människor) tycks det inte finnas något mer än dessa delar bestående av nätverk som försöker styra kroppen utifrån sin egen specifika funktion och vad musklerna slutligen gör är resultatet av en dragkamp mellan nätverk som vill olika saker.

Jämfört med en dator vars cpu är generisk och i princip kan användas till vad som helst beroende på vilka instruktioner den matas med, så är den primitiva hjärnan av tämligen statisk natur och kan i princip aldrig utveckla några nya förmågor utöver de som finns genetiskt kodade då den genetiska koden bestämmer vad varje enskild del skall ha för funktion.

Människors hjärnor har förutom de funktioner som djurens hjärnor har (som i princip representerar det omedvetna) även nya funktioner i form av språk, introspektion (vi vet vad vi själva tänker) och deklarativ kunskap (vi kan berätta för andra vad vi tänker och minns). När vi återupplever händelser genom att tänka, minnas, berätta eller höra berättas om sådant vi själva har upplevt, så aktiveras samma nätverk i den distribuerade hjärnan som aktiverades vid den ursprungligen händelsen. På så sätt har den språkliga (eller medvetna) delen av hjärnan en förmåga att styra nätverken i den primitiva hjärnan som annars bara skulle triggas av signaler utifrån. Men till skillnad från den primitiva hjärnan där varje del bara kan göra vad den är genetiskt förprogrammerad att göra, så kan den språkliga delen göra nya saker som den aldrig gjort förut. Vi kan lära oss nya berättelser utan att ha i förväg dedikerade nätverk för varje möjlig berättelse som språket tillåter, vilket gör att den språkliga delen faktiskt är mer lik en generisk cpu (som också kan göra olika saker beroende på program), än vad den är lik den primitiva hjärnan där varje del bara kan utföra sin förutbestämda funktion.

Spelar vi schack så kan vi dels känna efter vad intuitionen tycker att vi skall göra, vilket i princip innebär att vi drar statistiska slutsatser baserat på tidigare erfarenheter. Det är en omedveten process som förmodligen bygger på att hjärnans syntolkning aktiveras när vi ser brädet. Men vi kan även i vårt inre prova olika spekulativa drag och låta syntolkningen utvärdera våra inre bilder av hur brädet ser ut efter att ha flyttat en eller flera pjäser. Det senare betraktar jag som en algoritmisk förmåga då vi allt väsentlig utforskar ett spelträd precis som en dator skulle kunna göra.

Ovanstående handlar naturligtvis om hur jag tror att hjärnan fungerar och jag är helt öppen för att jag kan ha fel och att det finns bättre förklaringar.

Ja, själva lärandet skiljer skiljer språkmodeller från biologiska hjärnor i grunden. När människor lär sig nya saker så sker det inte genom att hjärnan beräknar derivator, utan det händer något med neuronerna när dessa aktiveras (nya synapser bildas) så att de nästa gång tycks ha lättare att aktiveras av samma insignaler. Och hur den senare processen faktiskt fungerar vet vi ytterst lite om.

Ja fast det är ju just det som vikterna försöker simulera, största skillnaden ur den aspekten är att artificiella nätverk startar med ett givet antal ”neuroner” och dessa delas in i lager där varje neuron i ett givet lager är korskopplat med varje neuron i nästa lager. Hela träningsproceduren går ut på att ”stärka”/”koppla loss” dessa kopplingar.

Och även topologin skiljer eftersom ANNs är strikt lager baserad med en 2d struktur medans ett biologiskt nätverk har 3d struktur och neuroner inte ligger i diskreta lager.

Men detta är ändå en av de aspekter som är ”mest” likt biologin (undantaget själva den elektroniska aktiviteten som är tillsynes snarlik, dvs ganska binär precis som ett ANN) men det är en total avsaknad av de mer dynamiska aspekterna som signalsubstanser osv som aktivt i en biologisk hjärna påverkar hur avfyrningsbenägna neuronerna är osv.

Det är så väldigt mycket som inte är ens i närheten av hur det vi ens vet verkligen fungerar att det är konstigt att vissa försöker applicera sociala och andra psykologiska fenomen på dessa strukturer, det är som att diskutera fiske upplevelser med en buske… och då är ändå det senare något levande.

—-
Edit: Skulle så klart också nämna att den elektroniska aktiviteten (som är det enda ANNs överhuvudtaget försöker efterlikna) inte är speciellt lik i helhet eftersom biologiska nätverk jobbar med frekvens och pulståg, det gör ju så klart inte de absolut flesta ANNs och i synnerhet inte LLMs som har de mest banala ANN modeller vi har.

Om 2 miljoner år kanske för det krävs att man lever för att inte ta konstiga beslut, känsla spelar roll vid omdöme.