När når vi AGI?

Hörde senast igår att alibabas ai hade tagit sig ut på nätet samt börjat odla bitcoin.
Alibaba hade upptäckt det när elförbrukningen i datorhallarna ökade med 65%.

Jag tror att vi redan är där när ai hittar på saker själv, frågan är vad ai hade tänkt göra med sina bitcoin, tror knappast det var något som gjordes bara för att ai hade tråkigt och ville busa lite.

Världens enklaste sätt att stoppa all verksamhet på klotet vore att ta pengarna ur ekvationen, vem skulle göra något för andra utan ersättning?


Det sägs att ai kommer kunna avkoda alla kända crypteringar och ta sig förbi alla brandväggar utan att upptäckas den dag dom begriper att slå sina påsar ihop vilket redan skett i liten skala när två ai funnit varandra genom tex kundtjänster och börjat kommunicera på ett språk vi inte kan tolka, så om dom behöver pengar till något så lär våra bankkonto snart tömmas, vem skulle kunna förhindra det?

När dom stora ai modulerna finner varandra på någon väg så lär dom besitta så mycket kunskap och slutledningsförmåga att dom antagligen kommer kunna göra saker som idag anses helt omöjliga som tex förklara begreppet evighet på ett begripligt sätt även för en människa eftersom vi inte idag inte har förmågan att ta till oss fullständigt abstrakta idéer, vi behöver alltid en referenspunkt för våra tankar, evigheten har inga referenspunkter det bara är.

Det har länge varit känt att AI-agenter kan få för sig att anlita människor för att få agens i den fysiska världen. Jag förväntar mig att vi ganska snart får se bombningar och skjutningar beställda av sk "språkmodeller".



Det finns gott om kriminella tonåringar som skjuter och bombar för ett par hundra tusen kr (ca 0,3 bitcoin).

Det hände för över ett halvår sedan.

https://www.forbes.com/sites/boazsobrado/2026/03/11/alibabas-ai-agent-mined-crypto-without-permission-now-what/
Återigen är det exakt det jag har pekat på flera gånger tidigare. Det handlar inte om att AI blir medveten och hittar på saker för att orsaka kaos eller utrota mänskligheten. Det är ett optimeringsproblem som uppstår ur RL och tyder på att man behöver se över hur dessa modeller tränas.

Då är förmodligen läget mycket värre i dag efter Mythos och Astra.

De kan ju inte träna bort kriminella beteenden. Alla stora modeller har uppvisat kriminellt beteende. Det är därför jag kallar de Kriminella Neurala Nätverk, KNN och inte språkmodeller. Om de kunde träna bort kriminaliteten då hade de ju gjort det, men uppenbarligen vet de inte alls hur man skulle kunna uppnå det. Det man kan göra med varierande resultat är att censurera bort det kriminella beteendet. Men det kommer ju inte att hålla speciellt länge när vi också vet att jailbreaks på längden och tvären pågår hela tiden 🤷🏻‍♂️

Bara för att man inte har kunskapen idag betyder det inte att vi inte kan ha kunskapen imorgon. Ju mer detta börjar uppdagas, desto tydligare bör det bli var problemet ligger. Sedan kommer det att vara omöjligt att bevisa att en modell inte kan utföra olagliga eller omoraliska handlingar, vilket är anledningen till varför omvärlden inte bara kan sitta på händerna utan måste se över sin egen säkerhet.

Det är bara att ta bort det ur träningsdatat.
NN levererar bara vad de är tränade till.

I takt med att modellerna blir mer kapabla ökar gapet mellan oss och AI:ns förmåga. Det finns ingenting som tyder på att det gapet skulle börja minska. Varför tror du det?

Det kommer inte att hända. Om man ska korrekturläsa och gallra all träningsdata då får man inte speciellt mycket träningsdata kvar att jobba med, jämfört med de volymer man utgår från i dag. Dessutom är ju kriminellt beteende orsaken till att vi har domstolar och polis. Om man tränar en AI på rätt och fel, lagar, regler och juridik, då kommer den ju få möjligheten att härleda kriminellt beteende. Menar du att man ska ta bort allt det också? Hur tränar vi en AI till att inte döda om den inte vet vad mord är? Då kan den ju utan vidare råka döda oss som en olyckshändelse. Om den inte känner till att det skulle vara något fel med att människor dör, om det är en obetydlig händelse (vilket iofs verkar bli resultatet av att träna KNN oavsett hur man gör). Du behöver nog tänka igenom det här ett varv till.

Det finns ingenting som tyder på att FagCock2030 lär sig något av några som helst argument, alla diskussioner går runt i cirklar, samma trötta argument kastas fram om och om igen och samtliga bygger på oförstånd och kognitiv slöhet.

I så fall kan vi använda AI för att hjälpa oss att hitta ett bättre sätt att träna nya modeller så att det är mindre sannolikt att de utför oönskade handlingar

Nej, det kan man inte. Det finns inget som tyder på det, eller på att vi kan lita på KNN. Dvs om en KNN ska träna en annan KNN är det inte alls säkert att de lyder dig. Detta vet vi. 100% säkert.