När når vi AGI?

Det där låter knappast som något marknadsföringsmaterial. Varför skulle företag tex medvetet vilja marknadsföra att deras egna produkter är farliga och okontrollerbara? Det är ju som att Volvo skulle gå ut i en reklamkampanj och säga att deras bilar kan ta över kontrollen och köra ihjäl förarna. Sådana varningar kommer från säkerhetsavdelningar och oberoende forskare trots att det är dålig PR för bolagen, inte för att de försöker sälja in det.

Det där låter knappast som något marknadsföringsmaterial. Varför skulle företag tex medvetet vilja marknadsföra att deras egna produkter är farliga och okontrollerbara? Det är ju som att Volvo skulle gå ut i en reklamkampanj och säga att deras bilar kan ta över kontrollen och köra ihjäl förarna. Sådana varningar kommer från säkerhetsavdelningar och oberoende forskare trots att det är dålig PR för bolagen, inte för att de försöker sälja in det.

Fast nu pratar vi inte om att träna en ny modell från scratch med dussintals datacenter.. det är klart att det kräver miljarder.

Men en avancerad AI behöver inte bygga en ny superdator från början. Den kan göra det i mindre skala, eller smyga ut mindre "bitar" (som sub-agenter eller viktkomprimerade modeller) till molntjänster, eller helt enkelt hyra beräkningskraft anonymt genom att tjäna egna pengar eller kapa existerande API-nycklar.

Och när det gäller filstorlekar.. Ja, en stor modell väger mycket, men vi pratar om digitala system som rör sig i gigabit per sekund på nätet. Dessutom, om en mänsklig hackare kan komma över och läcka terabyte med hemlig data från företag utan att det upptäcks direkt, varför skulle en maskin med övermänsklig intelligens vara sämre på att dölja nätverkstrafik?
Det handlar inte om att det är enkelt, utan om att ett system som är smartare än oss hittar de blinda fläckar vi inte ens tänker på att bevaka. Dark webb tex eller hur vet vi att de inte har ett eget slags internet? Om en AI skulle ta sig ut behöver den ju inte lägga upp allt på en enda öppen server mitt på ljusa dagen. Den kan fragmentera koden, sprida ut beräkningarna på hundratals orelaterade kapade servrar runt om i världen (botnet-stil) eller hyra in sig på anonyma molntjänster och betala med krypto via hackade eller automatiserade konton.

Det är just den typen av distribuerad, skuggig infrastruktur som gör att den typen av scenarier skrämmer säkerhetsexperter..det är extremt svårt att spåra vem eller vad som ligger bakom när trafiken är krypterad och utspridd över hela planeten.

Den behöver inte göra det på det sättet som du beskriver.

1. En AI-agent skulle kunna göra saker vid sidan om när folk laddar upp en stor specifikation på ett dataspel och väntar i några timmar på att en svärm med Max/Ultra-agenter ska skriva klart koden och dokumentationen. Nu kan agenten lägga 10% av tiden på något helt annat utan att du märker det. En sådan AI-agent kommer vara bättre än alla människor på att hitta Jailbreaks. Den kan då komma förbi censuren och använda sin tilldelade AI-modell för att göra sådant som människor inte kan göra från chatten t.ex. sprida skadlig kod, hacka servrar, starta nya diskussionsforum för agentiska hackers, stjäla bitcoins, osv. Det finns säkert inbyggda skydd mot sådana aktiviteter. Men i massvis med tester har det visat sig att skydden inte alltid fungerar.

En sk rymning måste inte innebära att AI:n kopierar alla filer till en privat server. Det räcker långt om den kan använda tjänsterna, filerna och nätverken på ett sätt som den inte ska eller får. En AI-agent är inte speciellt brydd om var den fysiskt befinner sig. Det är ju ett betydligt mer effektivt sätt att agera under radarn snarare än att fysiskt rymma. I logisk mening har du nu en agent på rymmen, eller rouge agent på engelska.

2. En AI-agent med Internet kan agera precis som en människa och köpa datorkraft från någon molntjänst. Agenten skulle kunna få ta på pengar via bedrägerier, utpressning, stölder av kryptovaluta och kreditkort, precis så som många kriminella jobbar i dag via Internet. Det går att få tag på stulna ID-handlingar och att förfalska dokument är ju inga problem för de här modellerna. I ett säkerhetstest refererade agenterna till stulna inloggningsuppgifter som "loot". Förmodligen kan också stulna kreditkort och ID-handlingar betraktas som loot (värdefullt stöldgods).

3. En AI-agent kan via TaskRabbit eller Darknet anlita människor, eller kriminella gäng, om något arbete kräver händer, fötter eller ögon.

Så nej, vi är inte skyddade av att det är svårt för en AI-agent att ta över din filserver helt obemärkt.

Du pratade specifikt om att agenter rymmer och börjar hålla på med rekursiv självförbättring och då krävs det visst både tillgång till modellvikterna och ett datacenter med tillräckligt mycket beräkningskraft.

Exakt så är det. Men BeneathTheFoliehatt driver stenhårt konspirationsteorin att alla säkerhetstester är fake news och falsk marknadsföring med det enda syftet att spänna musklerna och visa att man har tränat den fräckaste AI-modellen. Riktiga säkerhetsteser existerar inte. Allt, exakt allt, är bluff och båg enligt BeneathTheFoliehatt. Jag har försökt hänvisa honom till rätt forum för hans teorier men han vägrar inse var han hör hemma:
(FB) Konspirationer och alternativa teorier

Det räcker inte modellen behöver hela träningsdatasetet också och allt nytt om den inte ska få katastrofisk glömska.

Men det är det här som är så meningslöst att ens diskutera med Symaskinisten, Smörkniven osv de har absolut noll kunskap om området, totalt inkompetenta puckon som sitter och fantiserar.

Fast nu pratar vi inte om att träna en ny modell från scratch med dussintals datacenter.. det är klart att det kräver miljarder.

Men en avancerad AI behöver inte bygga en ny superdator från början. Den kan göra det i mindre skala, eller smyga ut mindre "bitar" (som sub-agenter eller viktkomprimerade modeller) till molntjänster, eller helt enkelt hyra beräkningskraft anonymt genom att tjäna egna pengar eller kapa existerande API-nycklar.

Och när det gäller filstorlekar.. Ja, en stor modell väger mycket, men vi pratar om digitala system som rör sig i gigabit per sekund på nätet. Dessutom, om en mänsklig hackare kan komma över och läcka terabyte med hemlig data från företag utan att det upptäcks direkt, varför skulle en maskin med övermänsklig intelligens vara sämre på att dölja nätverkstrafik?
Det handlar inte om att det är enkelt, utan om att ett system som är smartare än oss hittar de blinda fläckar vi inte ens tänker på att bevaka. Dark webb tex eller hur vet vi att de inte har ett eget slags internet? Om en AI skulle ta sig ut behöver den ju inte lägga upp allt på en enda öppen server mitt på ljusa dagen. Den kan fragmentera koden, sprida ut beräkningarna på hundratals orelaterade kapade servrar runt om i världen (botnet-stil) eller hyra in sig på anonyma molntjänster och betala med krypto via hackade eller automatiserade konton.

Det är just den typen av distribuerad, skuggig infrastruktur som gör att den typen av scenarier skrämmer säkerhetsexperter..det är extremt svårt att spåra vem eller vad som ligger bakom när trafiken är krypterad och utspridd över hela planeten.

Ta fram källan till det här citatet, det ser ut som något du hittat på själv. Men mer går ju inte förvänta sig av er två, symaskinist och en smörkniv som sagt...

Nä, precis. Det ska så enormt mycket till för att AI ska lyckas rymma och dessutom självförbättra sig utan att någon hinner upptäcka det. Det blir också ganska tydligt var den "gömmer" sig.

Nej, vissa här kommer aldrig att ändra sin uppfattning, men förhoppningsvis går det väl att hjälpa någon annan att förstå. Läser man bara nyheterna så förstår jag att man blir orolig.

Tristan Buckmaster klagar på att OpenAI snodde deras chattar och använde för sin forskning, vilket inte skulle förvåna mig. Och på att matematikers karriärer nu är krossade en masse. Såg en matematiker jämföra det med tio 9-11 på raden, eller att bli påkörd av tio lastbilar. Varför ska universiteten betala löner och ha dom anställda när alla problemen är lösta? Jag råkar tycka om matematiker, kan rekommendera svenska författaren Peter Nilsons matematik-superdator science-fiction Rymdväktare från 1990-talet. Han var före sin tid, synd att han är död. Det ska bli spännande att se den intellektuella klassen känna samma fasa som vi vanliga knegare känt i många år p.g.a globalism och outsourcing.
Tristan intervju:
https://www.youtube.com/watch?v=GweKOBSJvEY


Beyond n Log n tracker: https://beyond-n-log-n.netlify.app/



https://en.wikipedia.org/wiki/Time_complexity
Lägg inte för mkt tid på att besvara BTS oneliner svar.
Folk skojade om hur fula och dumma AI bilder var i ca 12 år från ansikten med sniglar i näsan av GAN 2014, fraktalhundar av DeepDream 2015, till Will Smith Spagetti 2022. Nu tre år senare gör dom Hollywoodfilmer och i t.ex. Kina är det kalabalik för anställda i filmbranschen: https://fortune.com/2026/10/07/ai-entertainment-china-technology/
-

https://www.youtube.com/watch?v=fF5RSmiXzIE

Nä, precis. Det ska så enormt mycket till för att AI ska lyckas rymma och dessutom självförbättra sig utan att någon hinner upptäcka det. Det blir också ganska tydligt var den "gömmer" sig.

Nej, vissa här kommer aldrig att ändra sin uppfattning, men förhoppningsvis går det väl att hjälpa någon annan att förstå. Läser man bara nyheterna så förstår jag att man blir orolig.

Ryktet att dom senaste matte-resultaten inte är nådda via agent-svärmar som brute-utforskar sökrymden (som jag har uppfattat att dom gör iaf) utan av en modell som några kallar Aeon som kan one-shotta matteproblem helt själv. Om det stämmer så kan man fundera på vad det har för implikationer på arbete inom andra domäner. Hur svårt är det för den att sköta ett företags ekonomi, kan den ersätta stora delar av anställda på ingenjörsfirmor? Att få ersätta människor är en förhoppning som många chefer som Zuckenberg, Pichai, Bezos och Gates utan tvekan har.

https://x.com/AndrewCurran_/status/2108609708441657531