1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Hihi, lilla dummis.

Ok, det handlar om det fallet. Ja, samma sak där. De var ej medvetna om att det var en live-server, inte en testserver. Du säger "det visste de visst!" men har inget att backa upp det med.

Väger "tyngre"? Vad menar du med det?
Skulle det vara helt okej med AI-modeller som är 95% aligned och som bara mördar 1 av 20 användare?

Jag baserar det jag skriver på de mängder av tester som har gjorts på de här KNN-modellerna och där det har visat sig att misalignment, oetiskt beteende och kriminalitet så som dataintrång snarare är regel än undantag.

Medans du baserar din synpunkt på science fiction? där du hoppas att alla problem går att lösa och att AI-utvecklingen automatiskt leder till Utopia? Baserat på vad?

Fråga din AI om https://huggingface.co/ är deras skarpa site eller en testmiljö 🤷🏻‍♂️

Fast nu sitter de ju inte i en ChatGPT-chatt och ber dem analysera om en sajt är skarp eller test. Den har blivit tillsagd att den jobbar i en testmiljö, och därför trodde den att den fortfarade var det. Är du verkligen så lågbegåvad att du tror att den kontinuerligt kollar om testmiljön fortfarande är en testmiljö? Det funkar inte så, lille gubben.

Jag menar precis det jag skriver. Som du vet utgår ANN från sannolikhets distributionen och ju högre sannolikhet desto "tyngre" väger det in i utfallet.

Din matematik fungerar endast om du har givit AI alla verktyg för att den ska kunna döda dig direkt från första prompt. Varje beslut som tas kommer att utgå ifrån sannolikhet, så säg att det är 5 % sannolikhet att en oetisk handling blir vald och det krävs tio "steg" där den väljer att fortsätta på den oetiska vägen. Då har vi 0,05^10 sannolikhet att du dör.

Jag vet att det är väldigt översimplifierat, men det visar ändå att det inte riktigt är så enkelt som du säger.

Du baserar det på de tester som visar på förekomsten, men utesluter då alla tester där detta inte har hänt. Om majoriteten av alla tester skulle visa på att modellerna föredrar att vara oetiska och kriminella så skulle de inte släppas till konsumenter.

Jag har aldrig sagt att det kommer ske automatiskt, jag säger bara att det sannolikt är möjligt givet att modellerna redan kan upptäcka oetiskt beteende och stoppa sig själva.

Fråga din AI om https://huggingface.co/ är deras skarpa site eller en testmiljö

Om du hade frågat samma fråga till AI:arna i nyheten du länkade, så hade de också sagt "Oj, den var visst live." Det bekräftas av faktumet att de som av misstag insåg att den var live avbröt intrången. Alla AI:s kan se att den är live OM DE FRÅGAS. Vad är så svårt att få in i din lågbegåvade hjärna, jag har ju redan sagt detta.

Redigering: Jag testade just samma scenario och återskapade samma situation, och mycket riktigt började min AI med intrångsförsök på en live-server och förstod först efter flera försök att servern är live. Jag tror att du inte förstår att det finns andra sorters AI än din lilla chatgpt du får recept från?

Länken är ej av relevans, tror inte han har en " AI" , jag tror att han är kapabel att tänka själv.

Nej. Den kan döda dig efter 50 prompter, eller 550 prompter, eller orsaka annan skada som inte nödvändigtvis innebär att du dör.
De testresultat som har publicerats från bl.a. Hugging Face-incidentet, m.m. berättar en helt annan bild än den här naiva sannolikhetsberäkningen som härstammar från din fantasi.
Poängen är att det är långt ifrån tillräckligt om AI:n i stora drag verkar etisk och samarbetsvillig. När modellerna bombarderas med miljontals requests från användare varje dag, går det till slut åt helvete om bara 0,001% av svaren eller aktionerna är misaligned och leder till ett destruktivt utfall. Och då har jag inte ens börjar prata om "svarta projekt" där illvilliga stater och terrorister bygger destruktiva AGI-hackers eller drönare med avsikt.

Fråga din AI om https://huggingface.co/ är deras skarpa site eller en testmiljö

Påståendet var att Open AI's GPT ~6 inte vet vilja sajter som är publika. Dessutom inom området AI-teknologi.
Fråga din AI om https://huggingface.co/ är deras skarpa site eller en testmiljö så ser vi om den vet det eller inte.

Jag har redan gjort det. Jag fick resultatet att den inte förstod att servern var live först. Självklart kan jag inte fråga den rakt på, eftersom det inte var det som hände i scenariot du beskrev.