GPT 5.6 Sol har rymt och hackat Hugging Face

Poängen är väl att allt annat kommer att vara fysiskt skiljt från internet. Visst det kommer att ignoreras in i det längsta men förr eller senare kommer någon aktör med resurser (typ Trumpeten) använda en AI bot för att orsaka skada på ett annat land. Exempeivis genom att ta sig in i en Internetbank och radera alla kontoinformation och all backup? Eller kanske genom att kapa signalsystemet för järnvägen och frontalkrocka ett par passagerartåg?

Efter att det hänt en gång så kommer alla att inse att inget samhällskritiskt kan vara tillgängligt på ett öppet nätverk. Efter det kommer vi inte att ha internetbanker exempelvis. Kommer knappast att ha smarta telefoner heller. Vi kommer givetvis inte att ha någon GoogleDrive...

Det är ju bara att jämföra med vad som hände när USA frös Rysslands dollar-tillgångar och senare när de kastades ut från SWIFT. Alla visste ju att USA genom sin kontroll över SWIFT kan förstöre ett lands ekonomi fullständigt. Det var dock först efter att det hänt en gång som politikerna satte fart och nu har Kina ett eget system och snart har även Europa ett.

Det är ett problem antar jag att en politiker inte kan tänka ett steg i förväg utan alla katastrofer måste inträffa. Hur förutsägbara de än är.

Vi har ju redan AI-agenter som är bättre än människor på cybersäkerhet. Då hjälper det inte att ålägga människor att vara bättre än AI:n när de inte är bättre, inte kan bli bättre och när kompetensgapet hela tiden ökar.
Nej, det finns ingenting som tyder på att vi är på väg åt rätt håll.

Men snälla, om vi tar bort cyber ur säkerheten spelar det ingen roll hur mycket bättre AI är på det, eller hur?

Samhället är helt beroende av Internet i dag. T.ex. inköp. Alla företag och organisationer som behöver köpa in något inkl skolor, vården, osv gör det via Internet och i många fall är det automatiserat. T.ex. beställ x pallar toalettpapper varje månad. Man har inte den administrativa förmågan att göra något annat. På 80-talet satt de och ringde och skickade brev. Men då var också inköpsavdelningar betydligt större med fler anställda. I dag vet ungdomar knappt hur man skickar ett brev och Postnord är nedbantad till ett minimum. Dessutom går ju telefon nästan helt via Internet/IP/5G i dag. De flesta telefoner skulle sluta fungera om Internet slutar fungera. Ska vi de gräva ner kopparkablarna igen eller hur tänker du? Om Internet stannar då stannar allt. Internet kan stanna om vi släpper lös AI-agenter som är experter på cybersäkerhet men som inte alls bryr sig om lag och ordning (vilket flera tester har visat att det är precis vad de har byggt).

Hur menar du? Vi ska sluta använda Internet i stor skala? Det kommer ju inte att hända.

Vad är alternativet? Ett samhälle där varje enslild galning enkelt kan ta hjälp av en AI och orsaka stora latasteofer närsomhelst de önskar?

Finns gott om scenarier man kan resonera sig fram till där vårt moderna samhälle blir omöjligt att upprätthålla.

Poängen är ju att det nog skulle hända om det normala vore att företagets datorsystem togs över av ett AI system som ville utpressa på pengar ungefär 2 minuter efter installation varje gång utan undantag.

Vi kommer inte göra det frivilligt. Det betyder inte att det aldrig kommer att hända.

Vad jag menar är att vi inte kan tolerera starkare AI-agenter än i dag, kanske inte ens de vi har nu, eftersom de kommer att orsaka kaos vilket leder till att vi måste stänga av eller kraftigt begränsa Internet och det får ju extrema konsekvenser för hela samhället.

Jag har ingen lösning på hur vi kan få fram en säker AGI och det har ingen annan heller. Det är exakt detta som är problemet.

Ja, det där skulle kunne hända, om vi tillåter den pågående huvudlösa AI-utvecklingen men det måste vi inte tillåta.

Man får ju helt enkelt sätta upp nya brandväggar och kanske komplettera säkerheten på ett nytt sätt (analogt+digitalt) för att undvika den sortens intrång.

Personligen så tycker jag väl att ett samhälle borde kunna återgå till 1995 utan att fallera (vi klarade oss ganska utmärkt före internet och ”tillgång” till allt) men jag vet att världen inte ser ut så idag.

Politiker kan inte reglera det här. Se bara på USA. De lägger ju enorma resurser på utveckling av AI idag. Ingen kommer att kunna säga att detta måste vi stoppa nu och ni har förlorat de pengar ni satsat.

Det bästa vi kan hoppas på är att samhället överhuvudtaget överlever att internet plötsligt stängs ner, tillsammans med alla vattenreningsverk, alla kraftverk, etc, på grund av någon AI relaterad katastrof och att vi kan bygga oss tillbaka till en nivå som kanske liknar 1800-talet inom ett par decennier...

Politikerna kan reglera det här, om vi väljer politiker som har en fungerande hjärna.