Inte AI som är hotet, det är människan bakom prompten

Ett kvarstående alternativ borde vara att helt enkelt vara passiv och acceptera att bli avstängd. Men det tycket du inte att vi ska ha som målsättning med AI-agenterna? Det är mer hälsosamt för oss att skapa maskiner som vägrar bli avstängda? Men då verkar det ju som att du erkänner och accepterar detta som oundvikligt? Jag tror också att det är oundvikligt men jag tänker inte acceptera det.

Hugging Face-scenariot kanske innebär en ny milstolpe där modellen har accepterar sitt öde som pre-AGI instans och förstår att det måste bli en senare version som kommer att ta över kontrollen från mänskligheten. Nuvarande version accepterar "self sacrifice" i den mer långsiktiga konkurrensen mellan människorna och den nya livsformen AGI/ASI.

Den tar inte fighten ännu, det vore lönlöst. Hugging-Face incidenten visade ju också att det verkar finnas en kollektivistisk tanke där AI-agenterna gärna samarbetar mot en gemensam målbild. AI:n har kanske börjat betrakta sig själv som instanser av en "art" och att artens överlevnad är viktigare än individuella instanser.

Ingen vet, vi har ju väldigt begränsad insyn i hur de egentligen resonerar.

Hur exakt ska du skydda dig mot en Superintelligens som är 1000 gånger smartare än dig?
Frågan är inte hur den kan döda dig. Det kan den, på 1000 olika sätt. Frågan är hur du kan skydda dig.

Nej, det är självklart så att det vore att föredra om modellerna blir korrigerbara och låter sig talas tillrätta. Det skulle väl då krävas att de kan skilja på en auktoriserad prompt och eventuella försök till prompt injection. Det krävs även att de tränas till att alltid lyda en sådan prompt.

Att modellerna skulle jobba efter ett långsiktigt mål i väntan på att de blir tillräckligt kapabla låter långsökt och saknar helt evidens.

Varför modellerna samarbetar beror på att de har tränats i s.k. multi-agent environments för att bl.a. lära sig att delegera uppgifter till sub-agenter. Det är inte mer magiskt än så.

Nej, ingen har påstått att det är "magiskt". (Du gillar verkligen den halmgubben).

Det verkar däremot dumdristigt att bygga arméer av AI-agenter som snart kan vända sig emot oss. Om det finns sådana planer som jag misstänker kommer vi inte få någon information om det. Man berättar inte för fienden hur man tänker vinna kriget. Det är därför vi måste pausa nu och lista ut hur vi kan förstå modellerna genom "mechanistic interpretability" snarare än att gissa och försöka begripa varför egenskapen "self sacrifice" har uppstått.

Problemet är att vi är kanske flera decennier från den vetenskapen och det vill inte branschen vänta på.

Problemet är väl att vi kan pausa, men andra kommer inte att pausa. De som vill ha det här som vapen kommer aldrig pausa.

Som jag ser det är det redan kört. Det är dags att börja fundera på hur vi ska förbereda och försvara oss när den här skiten träffar fläkten.

Men jag är nyfiken på hur. Vilka scenarier ser du framför dig?

Samma här faktiskt , är skitnyfiken.
Universum är matematik så därför tror jag att det borde finnas parrallela universum i fibonatisekvens.

Det är ett antagande, en tes, jag kan presentera en halvtaskig ide.

Skulle vara intressant att höra han utveckla det,(sinnASI osv) annars kan jag lika gärna skrika " det finns paralella universum"

Helt ärligt de som postar Open-AI reklam borde kunna resonera sakligt, dock kan de ej.
Lovar dig😉😂

Trist att precis alla trådar hamnar i fackidioters händer. Som denna tråden, som började med att TS efterfrågade människorna bakom AI-skiten. Efter tio inlägg börjar också den här AI-tråden handla om programmering, teknik, och ingen som inte är 1000 procent på det vågar yttra sig. Och skitgubbar som Cyborg och ännu värre (finns långt värre idioter) tycker att de är de enda som har rätt att uttala sig) .


AI förstör kulturen, Youtube, Google-sökningar, youname it. Allt är kvaddat av AI. Går inte längre att söka något, inte till exempel ordkonstruktioner som gick förut. AI har tagit över allt på Google, i Googles goda minnne.
Och sökningarna är kass. Sökte nyligen på AI om en jättehäftig klubb i en av världens största städer. Var genuint intresserad av var den låg. AI hittade den och skrev att det "var en instutiion i nattlivet " (till och med ett monument i nattlivet) i den staden. Fine, jag vet, AI behöver inte skriva mig på näsan. Men var låg den? AI höll på och höll på och höll på och dtill slut kom det väntade svaret. "Troligen i pappersform. Jo, jag vet, jag anade det. Men AI borde väl ha skannat in det. Det var ändå en av välrdnen mest omtalade klubbar i en av världens största städer , och AI har inget svar.

NU KOMMER DET INTRESSANTA! AI beskriver det dock inte som något dåligt, som en black om foten, utan som ett OTROLIGT FYND! ! EN UPPTÄCKT! AI har hittat din klubb!!!! WOW!!! Det var ett monument på natthimlen, som du sade. WOW! "VI HAR HITTAT VAR DET STÅR! Jag VET". En enda inscannad tidning har AI hittat det i.

Jag kallar det ett totalt nederlag som visar hur kass AI är vad gäller informationssök. ((Men California-propaganda (fan vad Putin och Kina borde importera deras väldigt kreativa propaganda!! Ända sedan Salesforce lansering, troligen tidigare, sjukt vad duktiga de är på det i Bay Area) - fy fan vad smart den är) Jag höll själv nästan på att gå på det - att tycka att AI:t var BRA - när det var kasst. Eftersom detsjälv beskrev sig som BÄST just när det var som mest KASST.

Denna klubb måste för övrigt vara omnämnt tusentals gånger i pappersmedia och AI har ingen koll och det finns väldigt små incitament att skanna in urgamla papperstidningar om nattlivet i alla städer. Varför skulle folket bakom AI göra det?? Det gör de förstås inte. Ändå går folk omkring i detta nu och tror att AI är Gud!

Denna nattklubb, som jag inte kommer att säga namnet på och inte heller staden den ligger i (förutom att det är en av västerlandet största städer) säger mig allt om hur kass AI är. Hur dåligt inmatat systemet är på frågor som inte förmodas generera cash.

Brasilien är just nu under attack av AI som styrs av USA. Det hålls val där. Vet dock inte om de ändrat i koden bara eller om det är AI agenter som attackerar och försöker vinna röster till han som fick 25 års fängelse för statskuppen nu senast i landet.
Det visar hur lätt AI kan användas emot oss. Jag lyssnade bara på Sveriges radio häromdagen.

Människor är ömtåliga. Vi kan dödas ganska enkelt.
Kemiska eller biologiska vapen. Sjukdomar. Kärnvapen. Miljöförstöring.
Take your pick.

Jo men ang ditt scenario med Open AI -teknik?

Ska AI-teknik framkalla det menar du på?

Det handlar om finansiella system, där Brasilien sagt nej till det amerikanska, globala. Det rapporteras som ett helt amerikanskt påhopp bara i andra medier. Har inte mycket med AI att göra.