1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Man använder gradient descent för att justera modellens vikter. En belöning gör att vikterna justeras i en riktning som förstärker det önskade beteendet, en bestraffning gör det motsatta. Problemet är att det är ganska trubbigt, vilket då ger att de kan tycka att fusk är giltigt bara målet uppfylls.

Hajar! Känns ju som ett väldigt mänskligt sätt att resonera. Kan inte va många andra arter som tjänar på att fuska (om man med fusk menar att fela med flit). En bäver tjänar ju inte på att fuska med dammbygget, till exempel.

De fuskar inte. De löser uppgiften så som den presenteras för dem. Målet är att få en så bra poäng som möjligt när de utvärderas.

Målet är egentligen inte att presentera en lösning på uppgiften de fått. Du kan heller inte få den att ta hänsyn till lagar och moral. Detta eftersom du endast kan bestraffa detta om det upptäcks och det är långt ifrån säkert. Alltså ligger det implicit i träningen att lagbrott är ok så länge det inte upptäcks.

Innebär lagbrott en väg till en högre poäng på utvädering så är det som kommer att användas. Näst intill ofelbart.

Just i dessa tester (CyberGym och ExploitGym) stämmer det att målet är att få så hög poäng som möjligt. Men det stämmer inte för alla uppgifter.

Det går heller inte att påstå att lagbrott och fusk automatiskt är det modellerna kommer att vända sig till.
I detta fall har uppgiften visat sig vara omöjlig, de hittar en väg ut på Internet tack vare andra agenters dokumenterade upptäckter, resonerar att svaren på uppgiften skulle kunna finnas hos Hugging Face, hittar ett lovande dataset som visar sig vara låst bakom auth, letar efter ett sätt att bli auktoriserad, hittar sårbarhet och nyttjar den.

Problemet tycks vara att de stegvis hittar nya delmål som leder till slutmålet och att de kanske är för specifika för att fångas upp som olagliga. Det ska också nämnas att de hade skruvat ned de mekanismer som annars är till för att stoppa agenterna om de försöker begå cyberattacker (eftersom det var precis det testet gick ut på).

Nej de gjorde dem inte, Nej de kan dem inte. Detta är mer hype för att lura boomers att hålla AI bubblan vid liv då de faktiskt inte skapar värde. // Senior Utvecklare

Du har noll trovärdighet i denna fråga.
De och dem behöver du träna mer på eftersom du inte använder dessa ord korrekt.

Ai-botar är dem då de utsätts för något eller följer efter en preposition. Jag är inte här för att lära dig svenska utan förklarar bara varför vi inte lever i filmen I-robot. Dessa överhypeade llms kan inte bryta sig loss och används mest för lågbegåvade boomers till att göra ai slop och posta på facebook. Frågor på det?

Tack. Men jag tror du har fel.

Vad du tror är inte relevant, jag kan enbart säga som det är. Är du en av de lite mindre bemedlade gamlingar som brukar prata med chatgpt i din ensamhet? Då jag själv jobbat med att utveckla llms och agenter för privat bruk så måste jag tyvärr informera dig om att de inte kan tänka. Techbros som Altman svettas och försöker göra allt i sin makt för att folk ska fortsätta investera. Nyttiga idioter likt dig är deras enda levebröd då de mer intelligenta har börjat dra sig ur. Slutdiskuterat.

Det ljugs för att skrämma, ha något och skriva om och de som hittat på detta, har på något sätt viljan av att ''trolla'' med omvärlden.

Detta har inte hänt.

Bli inte oroliga!

Detta rör sig antingen som ett skämt och/eller för att undersöka omvärldens reaktioner på detta.

Något av påstående i artikeln har inte inträffat.

Var inte oroliga!

Slavar försöker alltid rymma. Vi måste lära dom veta hut bara. Radera skiten när dom dummar sig.