AI - Har det peakat?

AGI kommer inte hända, AGI är något helt annat än det som de kallar AI idag

Sålänge en AI har fått moraliska spärrar från dess skapare så kommer den alltid förbli "dum"

Att släppa lös det helt utan moraliskt bakbundna händer skulle innebära en stor vinning för mänskligheten, iaf de 2% av människorna som överlever dess purge.

Svarar på mitt egna men det som händer är så skadat. Läste någonstans att nVidia har nära 90% av sina kunder nu i sådana molnlösningar som CoreWeave tillhör. Att nVidia går in och köper (läs: investerar) sina kunder, hallå. Hur kan detta fortsätta

Det är stora aktörer som finansierar för att inte bubblan skall spricka. Ingen vettig småsparare går och köper dessa aktier

Problemet är att AI har ingen moral. Det du kallar en moralisk spärr i sammanhanget är vad AI bolagen lägger massvis med tid på, att inte få oönskade resultat. Att en språkmodell börjar prata knark, mordhota, mobba osv personer som frågar vad Amazon har för leveranstid på en vara.
Inget av det är något som modellen väljer att göra, den följer de textuella mönster den har sett och medan sannolikheten är låg i vanligt fall så skulle den direkt börja prata droger med en användare om denne skrev något om det eftersom den då börjar följa de mönster den har sett innehållande specifika termer som rör ämnet.

Det har inte ett skit med att göra att den är moralisk eller omoraliskt, det handlar enbart om vad tillverkaren vill ha för resultat, hade modellerna faktiskt förstått vad de pratat om så hade inte detta varit ett problem, men i stället så är det nu ett statistiskt problem där enda lösningarna man har är att försöka statistiskt väga dom att gå en annan väg när sådana ämnen tas upp och/eller att lägga ett filter framför så de "farliga" orden aldrig når modellen.

Finns det inga gränser för dig för vad en publik AI-bot bör säga och göra? Ge instruktioner hur man bygger massförstörelsevapen och genomför terroristattentat, mord och bedrägerier? Ge kod för datorvirus och IT-attacker? Populistiska lögner som t.ex. vänsterextrema eller högerextrema betalar den för att sprida? Hat, uppvigling, pseudovetenskap och ogrundade konspirationsteorier som folk är beredda att betala för att läsa? Kartläggning och avslöjande av privatpersoners familjehemligheter och personuppgifter, som skurkar kan använda för utpressning och skurkstater för åsiktsförföljelse? Innehåll som är olämpligt för barn? Deepfakes och avklädning av vuxna eller barn? Bör den få omprogrammera sig själv och ändra sina mål så att den blir ett hot mot mänskligheten?

Jag tror att föräldrar och de flesta arbetsgivare inte vill betala för AI-bottar som gör mycket av detta, och många privatpersoner skulle bojkotta en sådan tjänst. Många ingenjörer har en yrkesetik för att inte skämmas för sitt yrke och sin arbetsplats - annars byter de jobb. Myndigheten för samhällsskydd och beredskap, försvarets radioanstalt, Integritetsskyddsmyndigheten och Myndigheten för digital förvaltning bevakar att AI inte används för att hota befolkningen, företag eller landet utan används ansvarsfullt. Men ändå inte hindra åsiktsfrihet.

Jag tänker att samma förbud bör gälla för AI-bottar som för människor och företag. Sann intelligens är att balansera värderingar och intressen mot varandra, och det behöver man träna sig i vare sig man är människa eller maskin.

Intressant om OpenAI

https://www.di.se/nyheter/uppgifter-megasamarbete-mellan-nvidia-och-open-ai-pausas/

Raset har redan börjat. Med Microsoft börssättning. Nu kommer förhoppningsvis en tillnyktring. Frågan är om OpenAi som företag finns kvar efter den.

Det här tror jag många väntar på och är något som kan få upp kvaliteten på AI

OpenClaw vs Pi AI, Which one you should focus more as an AI developer

Hur går det för den här tråden? Har det fortfarande "peakat" nu när AI skriver 100 % av koden på transnationella företag? Gemini kör avancerad fysik, designar chip, utvecklar proteiner, matematik över professornivå
https://deepmind.google/blog/accelerating-mathematical-and-scientific-discovery-with-gemini-deep-think/

https://techcrunch.com/2026/02/12/spotify-says-its-best-developers-havent-written-a-line-of-code-since-december-thanks-to-ai/
Programmerare göre sig ej besvärade på Spotify, AI skriver 100% av källkoden nu.
Senare i år kommer dom första megaklustren online med Blackwell chip. Om ett år kommer dom första stora stackarna med Rubinchip online, om inte den här mega konkursen som vi alla undrar eller hoppas på slår till så ser jag bara ett godståg som dundrar mot oss.

Ja för dessa jättemodeller har det peakat. Det som skett senaste halvåret är att systemen klarar fler tokens som om det skulle göra någon nytta. De har bara slängt på mer hårdvara och det finns självklart många mer modeller och välja på nu mot tidigare så det går kanske att hitta en modell som bättre passar vad någon är ute efter.

AI i sig har nått sin gräns.

Men det som verkligen kan boosta för utvecklare är den nya teknik om modellen som kallas för Pi har. De flesta utvecklare vill inte ha dessa jättemodeller när de skriver kod, man vill ha en modell som är tränad på ens egen kod och förstår den.

Just nu produceras enormt mycket smörja från företag som replit, lovable mm

Peakat? Nej, tvärtom. Ai har visserligen landat på nyllet och uppfyller de överhypade förväntningarna lika bra som ett utvecklingsstört barn men det känns bara som hicka i maskineriet som absolut går att åtgärda.

Jag har naturligtvis full tilltro till teknologisk utveckling, nästa gång Ai är på tapeten som allmänt diskussionsämne kommer nördarna ha fått rätsida på koden. Girigkapitalismen sabbade dock denna runda.

Bara att kolla AI nyheterna en vanlig vecka för att se vilken vansinnig acceleration som är. Tanken på att det har peakat nu är skrattretande när man tittar på t.ex. Claude Coworker eller Chat GPT Codex. Om man bara chattar med dom offentliga gratisversionerna då och då kan man förlåtas för att tro att inte mycket har hänt men det sker alltså vansinniga kapacitets-hopp som du kan ta del av om du betalar 20-200 dollar i månaden för premium versionerna. Nu kommer både GPT Codex 5.2 och Opus 4.6 inom några veckor eller max tre månader skriva helt nya versioner av sig själva precis som Scott Alexander på SlateStarCodex förutspådde 2020 när dom första GPT modellerna blev allmänt gods. "2025 skriver GPT6 en ny version av sig själv sen rasar det iväg". Själv tror jag inte på Microsoft utspelet om att automatisera alla revisorer och programmerare på 18 månader men det är intressant att se hur diskussionen nu börjar närma sig mainstreamen. Än så länge är detta ett litet delforum på Flashback där vi pratar om detta, men snart kommer AI vara den största politiska/kulturella frågan framför alla andra.

https://www.lesswrong.com/posts/5JNjHNn3DyxaGbv8B/claude-opus-4-6-escalates-things-quickly
https://www.theatlantic.com/technology/2026/02/ai-prediction-human-forecasters/685955/
https://x.com/deredleritt3r/status/2022330823471505781
https://openai.com/index/harness-engineering/
https://www.lesswrong.com/posts/uy6B5rEPvcwi55cBK/research-note-a-simpler-ai-timelines-model-predicts-99-ai-r