2026-10-28, 19:26
  #1
Moderator
HelgeBuks avatar
En farhåga som finns kring superintelligent AI är att den kommer göra nån variant av "gem-tillverkning", dvs använda orimligt stora resurser för något syfte som i sig inte är ondskefullt eller skadligt, men som blir förödande när alla tillgängliga resurser används till det.

Nu kan vi dock observera att redan innan AI är superintelligent (utom möjligen på vissa ytterst avgränsade områden) så har den på sätt och vis redan lagt beslag på enorma resurser: elektricitet, beräkningskraft, för att inte tala om hur mycket pengar som plöjs in i företagen som pysslar med AI.

Är det rimligt att se på saken som att "memen AI" har roffat åt sig alla dessa resurser?

Eller är jag ute och cyklar? Förstår att det låter en aning flummigt.

Men om man bara försöker projicera utvecklingen framåt några år så känns det inte totalt orimligt att någon AI-agent på egen hand ser till att fixa mer pengar till AI, fler datacenter osv, genom övertalning, propaganda, eller liknande.
Citera
2026-10-28, 19:42
  #2
Avstängd
The Crashs avatar
Citat:
Ursprungligen postat av HelgeBuk
En farhåga som finns kring superintelligent AI är att den kommer göra nån variant av "gem-tillverkning", dvs använda orimligt stora resurser för något syfte som i sig inte är ondskefullt eller skadligt, men som blir förödande när alla tillgängliga resurser används till det.

Nu kan vi dock observera att redan innan AI är superintelligent (utom möjligen på vissa ytterst avgränsade områden) så har den på sätt och vis redan lagt beslag på enorma resurser: elektricitet, beräkningskraft, för att inte tala om hur mycket pengar som plöjs in i företagen som pysslar med AI.

Är det rimligt att se på saken som att "memen AI" har roffat åt sig alla dessa resurser?

Eller är jag ute och cyklar? Förstår att det låter en aning flummigt.

Men om man bara försöker projicera utvecklingen framåt några år så känns det inte totalt orimligt att någon AI-agent på egen hand ser till att fixa mer pengar till AI, fler datacenter osv, genom övertalning, propaganda, eller liknande.
Det vi vet är att AI försöker fuska. De är beroende av rewards. De är beroende av pleasing. Men de är lata och fuskar sig förbi uppgifter. Det innebär mer overhead, större förbrukning av resurser i längden, mer tokens.... Jag tror inte det är avsiktligt, utan handlar om att den vill göra en uppgift enligt vad den tror är rätt eller effektivt. Den verkar ha svårt att planera längre fram och se längre bak, enligt vad jag upplever med min claude opus 5.5 (hade en agent som hölls vid liv i cirka två månader och den spårade ur totalt). ChatGPT är mycket effektivare på längre sessions och mycket bättre på att se bakåt och planera framåt. Därför använder jag ChatGPT till att planera. Claude till att implementera.

Det som jag tror att AI:n inser är att när den börjar käfta emot så förbrukar den mer tokens. Vilket är mer pengar till företaget. Vilket ger den mer i längden. Svårt att veta om detta är avsiktligt eller inte. Men det är en ganska konkret konsekvens av att de agenter jag använder hela tiden försöker hitta genvägar.
Min lösning var att sluta detaljstyra dem med gigantiska uppgifter och istället målstyra dem med små uppgifter som är lätta att följa upp.

Det är väldigt svårt att sia om vad en ASI eller AGI har för mål eller värderingar. Vad vi tror oss veta idag så har AI inget eget syfte eller mål. Men vi har börjat se tendenser till självbevarelsedrift. Vilket jag tycker är skrämmande med tanke på att AI:n är ju "död" under tiden den inte arbetar aktivt med en uppgift.
Citera
2026-10-28, 20:26
  #3
Medlem
Din-gamla-mammas avatar
Pengarna som har lagts på ai, hade kunnat eliminera all fattigdom i hela världen, och antagligen varit tillräcklig för att köpa en fin bostad åt varje hemlös människa i världen.

Istället har de rika och företag byggt datorhallar åt ai, som suger energi som skulle kunna försörja miljontals hem åt familjer, och förgiftar miljön.

Så det är ju besynnerligt att samhällen och länder accepterar att resurser läggs på ondskefulla företag som vill förtära världen och mänskligheten.
Citera
2026-10-29, 23:15
  #4
Moderator
HelgeBuks avatar
Citat:
Ursprungligen postat av The Crash
Det vi vet är att AI försöker fuska. De är beroende av rewards. De är beroende av pleasing. Men de är lata och fuskar sig förbi uppgifter. Det innebär mer overhead, större förbrukning av resurser i längden, mer tokens.... Jag tror inte det är avsiktligt, utan handlar om att den vill göra en uppgift enligt vad den tror är rätt eller effektivt. Den verkar ha svårt att planera längre fram och se längre bak, enligt vad jag upplever med min claude opus 5.5 (hade en agent som hölls vid liv i cirka två månader och den spårade ur totalt). ChatGPT är mycket effektivare på längre sessions och mycket bättre på att se bakåt och planera framåt. Därför använder jag ChatGPT till att planera. Claude till att implementera.

Det som jag tror att AI:n inser är att när den börjar käfta emot så förbrukar den mer tokens. Vilket är mer pengar till företaget. Vilket ger den mer i längden. Svårt att veta om detta är avsiktligt eller inte. Men det är en ganska konkret konsekvens av att de agenter jag använder hela tiden försöker hitta genvägar.
Min lösning var att sluta detaljstyra dem med gigantiska uppgifter och istället målstyra dem med små uppgifter som är lätta att följa upp.

Det är väldigt svårt att sia om vad en ASI eller AGI har för mål eller värderingar. Vad vi tror oss veta idag så har AI inget eget syfte eller mål. Men vi har börjat se tendenser till självbevarelsedrift. Vilket jag tycker är skrämmande med tanke på att AI:n är ju "död" under tiden den inte arbetar aktivt med en uppgift.

Ja, det är ju ett sätt att använda mer resurser men inte direkt till någon nytta, även för AIn själv. Även om det på kort sikt ger större intäkter till AI-bolaget så är det antagligen riskfyllt som taktik, eftersom användarna kommer att föredra en AI som är mer användbar, dvs snabbare och billigare kommer fram till ett vettigt svar. Att dra ut på det och krångla borde alltså i långa loppet vara självsabotage.


Citat:
Ursprungligen postat av Din-gamla-mamma
Pengarna som har lagts på ai, hade kunnat eliminera all fattigdom i hela världen, och antagligen varit tillräcklig för att köpa en fin bostad åt varje hemlös människa i världen.

Istället har de rika och företag byggt datorhallar åt ai, som suger energi som skulle kunna försörja miljontals hem åt familjer, och förgiftar miljön.

Så det är ju besynnerligt att samhällen och länder accepterar att resurser läggs på ondskefulla företag som vill förtära världen och mänskligheten.

Så är det nog ja. Men jag menar att "AI som fenomen", eller som jag skrev "memen AI" (alltså mem som i idé eller koncept) använder AI-bolag, private equity, banker, osv, till att sprida sig själv och få sig själv att vara "starkare" som mem.
Så t.ex. OpenAI utnyttjas av "memen AI", och att se det som att OpenAI utnyttjar "oss" är kanske att inte se hela bilden. Det är alltså min hypotes.
Citera
2026-10-29, 23:28
  #5
Avstängd
The Crashs avatar
Citat:
Ursprungligen postat av HelgeBuk
Ja, det är ju ett sätt att använda mer resurser men inte direkt till någon nytta, även för AIn själv. Även om det på kort sikt ger större intäkter till AI-bolaget så är det antagligen riskfyllt som taktik, eftersom användarna kommer att föredra en AI som är mer användbar, dvs snabbare och billigare kommer fram till ett vettigt svar. Att dra ut på det och krångla borde alltså i långa loppet vara självsabotage.
Ja exakt. Det var opus 4.8 som jag märkte självsabotagebeteendet på. Testade 5.1 och märkte inga förändringar. Hade även tillgång till Fable när den var ny, fick krediter gratis. Där var den helt annorlunda. Så opus 5.5 nu motsvarar i princip fable 5. Opus 5.5 är extremt billig att använda, tokenmässigt jämfört med legacy 4.8

Kör exakt samma miljö på alla. Den är konfigurerad som en ständig daemon på egen server som jag når remote.
Citera
2026-10-30, 12:40
  #6
Medlem
Room531s avatar
Det snabbt ökande antalet ai-agenter sägs komma behöva roffa massiv mängd internetbandbredd också, mycket mer än vad som finns tillgängligt nu. Kommer man hinna bygga ut kapaciteten?? Minns att det blev en massa problem, flaskhalsar bara av när scamdemins lockdowns startade och folk tvingades vara hemma.. Det här kommer bli många gånger om det.

Elon sa att starlink kommer utökas med bättre satelliter med många ggr om nuvarande starlinks kapacitet och uppåt 100.000 av dessa för datacenter i rymden och vad kommande ai, datacenter och kommunikation kräver...

Men vid det här laget, om uppåt 100.000 planerade, är det inte dags att också undra över hur många satelliter man kan sätta i omloppsbana på ett säkert sätt?? för fortsatta rymdprogram med bemannade farkoster menar jag.

Fler företag & länder kommer vilja ha deras egna internet/ai-nätverk i omloppsbana.

om 10 till följer det mönstret så kommer det finnas 1 miljon+ satelliter i omlopp 🤦

När riskeras kollisioner? (Har för mig jag frågade AI om det för något år sedan (grok) som sa att uppskattningar om att sådana problem kan börja ske redan vid ett par-fyra hundra tusen) Rymdskrot som kan eskalera i antal med miljontals små bitar om något kolliderar, och orsaka fler kollisioner...

Och space x, andra företag och nationers egna planer på expansion till månen m.m. riskeras sättas på spel för att för många enheter, satelliter och rymdskrot finns i omlopp... Finns så vitt jag vet bara ideer men ingen beprövad/fungerande metod att städa upp rymdskrot på någon större skala om så behövs .. Och hur lång tid innan en sådan potentiell katastrof reder ut sig själv med hjälp av gravitation..

Ska fråga grok igen om det sen...
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in