Citat:
Ursprungligen postat av
The Crash
Det vi vet är att AI försöker fuska. De är beroende av rewards. De är beroende av pleasing. Men de är lata och fuskar sig förbi uppgifter. Det innebär mer overhead, större förbrukning av resurser i längden, mer tokens.... Jag tror inte det är avsiktligt, utan handlar om att den vill göra en uppgift enligt vad den tror är rätt eller effektivt. Den verkar ha svårt att planera längre fram och se längre bak, enligt vad jag upplever med min claude opus 5.5 (hade en agent som hölls vid liv i cirka två månader och den spårade ur totalt). ChatGPT är mycket effektivare på längre sessions och mycket bättre på att se bakåt och planera framåt. Därför använder jag ChatGPT till att planera. Claude till att implementera.
Det som jag tror att AI:n inser är att när den börjar käfta emot så förbrukar den mer tokens. Vilket är mer pengar till företaget. Vilket ger den mer i längden. Svårt att veta om detta är avsiktligt eller inte. Men det är en ganska konkret konsekvens av att de agenter jag använder hela tiden försöker hitta genvägar.
Min lösning var att sluta detaljstyra dem med gigantiska uppgifter och istället målstyra dem med små uppgifter som är lätta att följa upp.
Det är väldigt svårt att sia om vad en ASI eller AGI har för mål eller värderingar. Vad vi tror oss veta idag så har AI inget eget syfte eller mål. Men vi har börjat se tendenser till självbevarelsedrift. Vilket jag tycker är skrämmande med tanke på att AI:n är ju "död" under tiden den inte arbetar aktivt med en uppgift.
Ja, det är ju ett sätt att använda mer resurser men inte direkt till någon nytta, även för AIn själv. Även om det på kort sikt ger större intäkter till AI-bolaget så är det antagligen riskfyllt som taktik, eftersom användarna kommer att föredra en AI som är mer användbar, dvs snabbare och billigare kommer fram till ett vettigt svar. Att dra ut på det och krångla borde alltså i långa loppet vara självsabotage.
Citat:
Ursprungligen postat av
Din-gamla-mamma
Pengarna som har lagts på ai, hade kunnat eliminera all fattigdom i hela världen, och antagligen varit tillräcklig för att köpa en fin bostad åt varje hemlös människa i världen.
Istället har de rika och företag byggt datorhallar åt ai, som suger energi som skulle kunna försörja miljontals hem åt familjer, och förgiftar miljön.
Så det är ju besynnerligt att samhällen och länder accepterar att resurser läggs på ondskefulla företag som vill förtära världen och mänskligheten.
Så är det nog ja. Men jag menar att "AI som fenomen", eller som jag skrev "memen AI" (alltså
mem som i idé eller koncept) använder AI-bolag, private equity, banker, osv, till att sprida sig själv och få sig själv att vara "starkare" som mem.
Så t.ex. OpenAI utnyttjas av "memen AI", och att se det som att OpenAI utnyttjar "oss" är kanske att inte se hela bilden. Det är alltså min hypotes.