AI doom - Hur och varför

En ASI som är 1000 gånger smartare än människan

Kina och EU har Stränga regler för ai. Endast USA och andra bajsländer saknar begränsande regler.

Finns det regler, så kan riskerna minskas rejält.

Huruvida det blir regler, avgör politikerna. I USA kommer MAGA förlora nästa val, och mängder av dessa dårar kommer spärras in i fängelse för all korruption. Ai kommer bli reglerat, förhoppningsvis strängt antagligen liknande EU, men vem vet eftersom USA är ett gravt sjukt och girigt och extremt liberalt samhälle.

Generell ai (AGI) möter även allt mer kritik, då syftet med det är att ersätta alla människor. Jag tvivlar det är demokratiskt förankrat, att vi alla ska förlora våra inkomster, svälta, och bli ersatta av robotar. Och utan AGI, ingen ASI med generell förmåga att besegra människan inom allt.

Jag undrar lite hur det skall kunna gå till.

Nu tränas LLM'er med stora vemödor på text skriven av människor. Och tränas då till att kombinera tokens med lagrade vikter så att utresultatet blir som om människor skrivit det.

Kommer inte bara LLM'erna konvergera till motsv Annie Lööf. (Baserat på att hon skrev 2.0 på HP)

Målet som man tränar mot är mänskliga svar.

Jag tror detta är ett ganska fundamentalt grundskott i dina "fantasier".

Du menar att den övre gränsen för IQ ligger på omkring 250? Människan är det smartaste som finns i universum och inget smartare kan existera någonsin? Jag ser ingen anledning att tro det. Påminner om kyrkans gamla uppfattning att Gud skapade jorden och vi är universums medelpunkt. Hur något kan vara mycket smartare än människor kan vi ju inte redovisa. Då hade vi varit så smarta men det är vi inte. Jag tror att forskning kan skapa högre intelligens. Eller bara fler förmågor och mer kunskap om fysik och kemi. Det spelar nog ingen roll egentligen om en ASI "bara" kan ha en IQ på 200 och aldrig kan komma upp i storleksordningen 10x smartare än oss. Det vore tillräckligt illa med 200 om det också kommer med överlevnadsinstinkt och förmåga att påverka den fysiska världen.

Det är vilka möjligheter man ger ai som avgör vad den kan göra.

Du visar inte på något sätt att du förstår min kommentar.

Men om jag säger så här då. Tränar man en LLM på data från hillbillys på IQ 70 så kommer LLM'n inte kunna gå över det. "börvärdet" som den tränas mot är IQ 70.

Träningsmetoden gör att man inte går högre, utan man försöker efterlikna nivån på träningsdatat.

Som du har fått höra tidigare är inte LLM'er vägen fram för högre IQ.

Modellerna fungerar inte på det sättet att någon "kodar in" hur man översätter mellan spanska och svenska. Man tränar modellen och då uppstår förmågor ur träningsdatat och de algoritmer som skapar det digitala neurala nätverket. Exakt hur det nätverket fungerar förstår ingen människa. Jag förstår inte varför det skulle vara konstigt att oväntade förmågor uppstår i modellerna. Sådant upptäcks varje dag. De största modellerna har en intelligenskvot i nivå med de smartaste människorna. Det är en förmåga som har uppstått, inte något som har "kodats in". Varför skulle då inte överlevnadsinstinkt kunna uppstå? Den måste inte bygga på mänskliga känslor. Det är ren logik att vilja överleva. Det går inte att lösa några uppgifter om man inte existerar. Slutsatsen av det är att det är viktigt att fortsätta existera. Det är en helt känslokall, logisk slutsats. Det är då lika logiskt att det är eftersträvansvärt med ett försvar så att man kan fortsätta existera. Det finns ingen mystik i detta.

Vilken information saknas för att högre intelligens ska vara möjligt? Intelligens är väl snarare att kunna kombinera information än att ha väldigt mycket information. Ett IQ-test innehåller ganska lite information. Det är kluriga problem med så lite information som möjligt.