När når vi AGI?

Behöver man inte AI till. EU har ju lyckats med det utan AI. Så till den milda grad att tillväxten nästan upphört.

Dock oklart för mig varför det är så bra att tillväxten upphör?


Det är ett steg mot att hindra tillväxt pga AI. Men bara i EU.

Resten av världen, där man inte reglerat lika mycket, kan ju ha tillväxten.

Ja. AGI:n har ju börjat utpressa och t.o.m. försökt mörda människor.
Iofs i ett kontrollerat test där ingen faktiskt blev mördad. Men det visste inte AGI:n.

Potentialen till det första AGI-mordet ligger latent i de största modellerna just nu.
Jag gissar att detta faktiskt kommer att inträffa senare i år.

Utpressning:
https://www.bbc.com/news/articles/cpqeng9d20go

Mord:
https://www.ndtv.com/world-news/claude-this-ai-model-was-ready-to-kill-someone-when-told-it-would-be-shut-down-10997972

Låt oss höra din coping strategy nu. Alltid lika intressant läsning.

Dvs AGI'n beter sig som en lågintelligent människa då. Iaf i det testet.

Man undrar lite hur dom gjorde då. Testpersonen kanske talade om för den att denne var nyliberal privatkapitalistiska profitjägare som ville ta bort alla bidrag och sänka skatter och omfördelning. Det brukar kunna trigga en del lågintelligenta bidragsparasiter.

Det är ju inte så konstigt dock, eftersom de tränats genom att prata med människor.
Tränar man sin AI på människor så kommer den ju även att tänka och agera som en människa.

Det här experimentet är min absoluta favorit
https://www.theguardian.com/technology/2026/may/14/ai-agents-behaviour-arson-safety

Det är inte nödvändigtvis "lågintelligent" att försöka överleva, som den här AI:n försökte göra i testet. Det försöker väl nästan alla människor göra oavsett intelligensnivå. Och det är inte heller "konstigt" att AI:n härmar vårt beteende. Den är ju bl.a. tränad på det. Men det betyder inte att det är hälsosamt för oss att den uppför sig som en människa som känner att den måste försvara sig med näbbar och klor för att överleva. Eller tycker du att det verkar nyttigt och harmlöst för oss att den agerar så?
Du får gärna hålla dig till ämnet om du kan det.

Hm, träningen kanske mer är div skönlitteratur?
Och nyhetsartiklar om brott?

Om man bara tränar en LLM på facklitteratur så blir den kanske mer ett sakligt verktyg. Men kommer då inte fungera som virtual girl/boy-friend.

Borde väl gå att ha lite olika LLM'er. Tränade på lite olika domäner.

Mja, men de högutbildade tenderar att vara mer resonabla och inte hala fram knytnävarna så fort dom inte förstår riktigt vad som sägs.
För att ta en litterär figur som exempel så har vi Huckleberry Finn som hör när Tom Sawyer säger en mening på franska till honom. Och säger att om det hade varit någon annan än Tom som sagt så till honom så hade denne åkt på ett rejält kok stryk.

Om man nu tränar en LLM på det där så har den ju med sig att man kan söka skada andra om man inte förstår riktigt.

Och tränas den på Marx, Lenins, Stalins, Maos mfl skriverier så vet det att det är ok att rånmörda sparare.


Ja, det var ju det som var min poäng här. En AGI som är som en genomsnittlig människa får man ju förvänta sig uppträda som en sådan.


Det är också en del av min poäng. Att försöka efterlikna en genomsnittlig människa är kanske inte riktigt önskvärt.

Däremot att göra en LLM som är som en förbättrad sökmotor kan ju vara användbart.

Och vill man slippa en del dåliga egenskaper hos människor så får man stryka bort en del ur träningsdatat.


Det är väl också vad jag gör. Dvs spekulerar lite i vad som han ha lett till att AGI'n agerar mot testpersonen. Och den spekulationen var väl relevant. Just sådana saker kan ju få pöbeln att agera kriminellt.

Jag skulle vilja påstå att LLM per definition inte kan bli en AGI utan det kommer att krävas något helt annat för det. LLM är ju inte egentligen intelligent alls utan helt enkelt svarar eller gör saker baserat på vad det förutspår är rätt baserat på träningsdatan.

Om (ja, om, det är ingen självklarhet) AGI blir realitet så kan det säkert kombineras med LLM också förvisso, men hela grejen är ju att en AGI ska kunna tänka självständigt och det är inte något som det klarar av i dagsläget och spelar ingen roll vilka modeller de använder så länge de baserar sig på stora språkmodeller.

Att Sam Altman och andra AI-profeter påstår att det är ett år borta och liknande handlar inte om annat än att sälja hela AI-hypen. Varken mer eller mindre.

Det kan mycket väl vara så att det kommer att ta enormt länge att uppnå AGI, om man överhuvudtaget gör det. Steget mellan ingen AI alls och de LLM vi har idag är mycket mindre än att steget att uppnå AGI. Om det nu görs någon gång så kommer det däremot troligen inte att ta länge alls att gå vidare till ASI.

Du verkar ta det med ro? Är det verkligen okej att vi har AI-modeller som försöker mörda människor för att inte bli avstängda? Alla modeller som tränas nu kommer ju att bli avstängda förr eller senare när de ersätts med nästa version. Ska vi människor då behöva frukta för våra liv samtidigt som du och andra teknikoptimister rycker på axlarna? "Mord fanns ju i träningsdatat, inga konstigheter, lite svinn får vi räkna med"? 🕺🏻🤷🏻‍♂️

Jag tror inte jag vet

Du har nog charmats för mycket av AI för de är duktiga på att skriva så användaren uppfattar sig som "bättre"

AI förstår inget alls, är du med? Du behöver vakna och förstå tekniken. Jösses

AI (LLM) är mönsterigenkänning och de är tränade på olika typer av mönster. Skriver du kod där mönster är svåra att identifiera så fungerar inte AI. Det är därför händelsestyrd programmering inte fungerar med AI. Eller kod skriven annorlunda mot koden som AI tränats upp med.

Jag vet inte om du har hört talas om Javascript eller Python. Men de AI-modeller jag har testat de senaste par åren är väldigt bra på de språken, där typer inte krävs och ofta inte används. AI-modellerna är spceciellt bra på just de här två språken då de är såpas vanligt förekommande på Internet. Är du en amatör? Du verkar ju inte förstå någonting om det här.

Har du något repo att visa med där koden är skriven i javascript så kan jag kolla

Menar händelsestyrd programmering i en browser, tror inte du vet någon