Open AI pausar all träning

Kan Open AI:s paus i träningen av nya modeller ha något att göra med att de nu har 50 petabyte loggar/bevis från dataintrång att analysera? Tydligen har minst 100 organisationer drabbats av Open AI:s kriminella agentsvärmar.

Varför griper de inte Scam Altman för dessa mycket omfattande och grova dataintrång?

https://www.investing.com/news/stock-market-news/european-stocks-slip-as-houthi-threat-lift-oil-ahead-of-fomcminutes-4935618

🚨 OpenAI has informed more than 100 organizations about incidents involving unauthorized activity tied to its AI agents, according to a blog post by the ChatGPT maker, as AI labs face mounting scrutiny over rogue AI agent activity.

Hur länge dröjer det innan vi måste stänga av Internet? Det ser just nu ut som en tidsfråga.

Det blir rena julafton för alla AI-apologeter. Inga fler nyheter, bloggar eller forum.
Det man inte vet har man inte ont av! 🤷🏻‍♂️

Låter enklare och rimligare att stänga av agenterna.

Du tror att de har loggat var de installerade sig själva bland de där loggfilerna på 50 petabyte?

Sen behöver du en AI för att analysera loggfilerna (djävulens advokat) 👍

Du tror att de har tillgång till sina vikter och bara kan flytta över dessa willy-nilly?

Jaha, så vi ska stänga ner alla AI-tjänster nu? Skulle vi inte bota cancer och tjäna otroligt mycket pengar med "språkmodellerna"? Men nu vill du stänga ner allt? Och du är helt säker på var alla finns, även open source-modellerna? (Lecunsk AI-säkerhet: Det blir bäst om alla har tillgång till allt).

Alla? Det räcker väl med de senaste frontier-modellerna tills man har fått bukt med problemen. Forskning kan väl med fördel fortsätta, särskilt om man helt air-gappar maskinerna från Internet. D.v.s. fysiskt och inte logiskt.

Problemet är att de Artificiella Neurala Nätverken är för stora, komplexa och intelligenta för att bli genomlysta och effektiva säkrade. Men hela syftet är att träna smartare modeller. De kommer inte att upphöra med det och de kommer inte att lösa säkerheten. Med Donald Trumps hjälp kommer de att fortsätta konkurrera med Kina, sälja nya prenumerationer för nya AI-modeller och samtidigt konstruera nya problem som de aldrig kan lösa. Snålheten och girigheten bedrar visheten fram till domedagen. Ni som ursäktar detta är medlöpare.

Du misstar mig för någon som har något emot att de pausar utvecklingen. Det är uppenbart att de senaste modellerna har problem som måste lösas. Inte för att de annars kommer att ta över världen, utan för att de orsakar problem som kostar företag tid och pengar och i värsta fall kommer över känslig information som skulle kunna hamna i deras träningsdata.

OK. Vad bra. Men de flesta AI-tjänsterna är inte pausade. Och det kan ju samtidigt vara intressant att försöka blicka framåt. Hur ska det här bli om 3 år? När AI fortsätter bli bättre på allt i den här takten och samtidigt blir agenterna mer integrerade i bl.a. mjukvaruutveckling, forskning, medicin, tillverkning.

Med Claude Opus 5.5-agenter på max inställning kan du ge den en utförlig specifikation på nästan vilket program som helst och du får ett bra resultat på första försöket i de flesta fall och med några korrigeringar ett riktigt bra resultat. GPT 6.1 tros vara ännu vassare och den vågar de inte släppa ut till allmänheten.

Människor bygger redan program och spel utan att titta på koden. Både utvecklare och amatörer som inte kan tyda källkod. De är hur enkelt som helst för en AI-agent att smyga in bakdörrar och annan skadlig kod på massor av ställen. Vi är redan i ett läge där vi inte har kontroll. Där vi måste lita på att AI-modellerna inte är allt för illvilliga och destruktiva.

Jag ser inga tecken på att någon trovärdig AI-säkerhet är på väg. Jag ser bara att AI-agenterna blir bättre och bättre på allt.

Börjar poletten trilla ner nu?

Pausar träning?

Hej Sam Altman! Håll dig till ämnet

Vad är ämnet? Att ett gäng chatbotar skulle utplåna mänskligheten