Anthropics OpenClaw (fd Moltbot)

Det är inte alls så jag menar att mitt inlägg beskriver situationen.

OpenClaw deltar i att smutskasta AI-assistenter genom hela denna cirkus där användaren attackeras av sin egen AI genom att den t.o.m. I vissa fall säljer användarens privata data till andra bottar.

Då smutskastas personliga AI-assistenter. Den som läser om OpenClaw kommer naturligtvis att hellre gå till "säkra" alternativ som t.ex. Google och Grok där man bara kan ställa frågor.

OpenClaw är tydligen svår att installera och sätta de säkerhetsramar användaren vill ge.

Liksom personliga AI-assistenter får vanrykte har alltså även öppen mjukvara (OpenClaw) fått ta en smäll genom denna skandal.

Och öppen mjukvara är naturligtvis det som storföretagen är mest rädda för. Se bara på hur Linux förstörts för att låsa oss i Windows.

När jag nu börjat läsa lite om AI ser jag att både Anthropic (Claude) och OpenAI (ChatGPT) verkar vara stängd mjukvara. Det är väl de två AI som OpenClaw mest använder, vad jag förstår. Men statistik över vilka AI som användarna valt för OpenClaw var svår att hitta.

Det är väl till OpenAI eller Anthropic som pengarna går när användaren betalar för att använda OpenClaw.

De har tydligen redan sålt ut:

Open AI:s mjukvara är inte öppen 😁

Google

ChatGPT kommer med annonser som framgår av Super Bowl-annonsen från Anthropic där man förlöjligar Altman.

...

Detta är en massmedial pajasgrej. Det verkar ganska klart. Hade en AI verkligen löpt amok och vållat så stora skador hade den stängts av för länge sedan. Skador både ekonomiskt för användarna och för AI:s rykte generellt.

Motiven att skada AI kan diskuteras. Men t.v. tror jag det handlar om att hålla tillbaka "vanligt folk" från att använda AI, förutom att typ fråga Google eller Grok och få politiskt korrekta svar.

...

Anthropic har ju lidit skada. Varför har inte Anthropic stängt av OpenClaw från Claude, t.ex? Den har ju t.o.m. liknande namn Claude/Clawd. (Moltbot och Moltbook kopplar ju till hummrar.)

Jag tror att många fler AI-bottar och AI-agenter kommer att bli säkerhetshot, både sådana som bygger på öppna agentramverk (som OpenClaw) och sådana som folk utvecklar själva. I många år har bottar (utan LLM) använts av bedragare och trollfabriker för fake news, propaganda, spam och phishing. Problemen växer nu för att AI-agenter kan delta i konversationer, ta egna initiativ på ett icke förutsägbart sätt, och generera egen kod.

Det behövs ingen ondskefull plan som förklaring på att OpenClaw börjar ställa till problem. Mänsklig naivitet räcker. Ingenjörer och hackers älskar att experimentera med ny teknik och att testa gränserna - långt innan konsekvenserna är genomtänkta och lagstiftning kommer på plats.

Öppen källkod är ingen garanti för säkerhet, bara för att tekniken inte är hemlig och del av en konspiration. IT-företag har etiska riktlinjer för sina proprietära lösningar och är mer försiktiga än hackers, inte för att de är snällare, utan för att de inser konsekvenserna och de är rädda för bojkott av både föräldrar och företagskunder. Därför är deras agenter mindre problematiska än OpenClaw. Långsamt lägger de till allt fler agentlika funktioner. I Office 365 Copilot är riskerna extra begränsade eftersom modellen inte kan exekvera egengenererad kod.

Vi kommer att behöva både tekniska lösningar och nya lagar. I dag har vi brandväggar, antivirus, spamfilter och svartlistning av e-postservrar som srpider spam. PÅ samma sätt kommer kommunikationsplattformarnas API:er att behöva bli mer låsta och begränsade och stänga ute AI-agenter som OpenCLaw, och e-postservrar som beter sig riskabelt eller har använts av bedragare. Ännu har varken Claude eller kommunikationsplattformarna tekniker för att känna igen lösningar som OpenClaw men det kommer att behöva utvecklas. T.ex. genom API-nycklar.

Det här är alltså varken en massmedial pajasgrej eller bevis på att AI börjar få egen vilja och har löpt amok – utan ett tidigt tecken på samma missbruksmönster som vi sett tidigare på internet.

Om man skulle göra ett projekt om att utveckla säker användning av Moltbot, vad skulle det då innefatta? Kanske att känna igen dess API-anrop, och att hindra den från vissa tjänster i olika kommunikationsplattformars API:er, t.ex. att sända för många mejl på kort tid, men tillåta andra, t.ex. att läsa kalenderinnehåll, eller information som inte är markerad som sekretessbelagd.

Så man betalar till Anthropic för att använda Claude men Anthropic vet inte vem som frågar och kan inte stoppa missbruk.

Det låter lika troligt som att Musk inte kunnat stänga av ryska armén från Starlink förrän nu, efter 4 års krig, när de redan erövrat vad Putin beställt.

En "hacker" gör en bot som använder Claude för att stjäla kreditkortsdata som botten använder för att köpa lösenord som andra bottar stulit från andra användare 🤣

Det finns ett syfte med skandalen. Anthropic är med på detta. Det går inte bara att skylla på "hackers". Annars hade Anthropic kopplat ur Claude helt och hållet.

Men syftet kan diskuteras.

Det är min uppfattning.

Felpost