1200 AI-botar gjorde uppror – bröt sig loss och bildade eget kollektiv

Påståendet var att Open AI's GPT ~6 inte vet vilja sajter som är publika. Dessutom inom området AI-teknologi.
Fråga din AI om https://huggingface.co/ är deras skarpa site eller en testmiljö så ser vi om den vet det eller inte.

Nej, Chatgpt vet bara det OM DEN FRÅGAS. Det kan du testa själv: Fråga chatgpt om huggingface.co är live. Om du ser att den UTFÖR EN AKTION innan den svarar, så betyder det att den inte vet förrän den specifikt kollar det. Vad är det som är svårt att förstå? I testmiljön så frågade de inte AI:n om servern är live eller inte. Den kollade inte det alls. Den gick bara på testarens instruktioner, som var att den sitter i en testmiljö. Vad är det som är svårt att förstå, lillhjärnan?

Påståendet var att Open AI's GPT ~6 inte vet vilja sajter som är publika. Dessutom inom området AI-teknologi.
Fråga din AI om https://huggingface.co/ är deras skarpa site eller en testmiljö så ser vi om den vet det eller inte.

I.o.m. att den hackade in sig på https://huggingface.co/
innebär ju det att det vet att servern var live.

Den har också alla DNS-poster på Internet i sitt träningsdata.
Den känner till aftonbladet.se, google.com och https://huggingface.co/
Och att det är publika och skarpa sajter.

Stämmer ej. Jag förbjöd chatgpt att använda extern data och mycket riktigt fick jag svaret:

Vissa som vill att våra inlägg ska kunna diskuterasoch nå fram utan att lågbegåvade provokatörerr ska komma in i en hel forumdel och förstöra.

Är detta ditt bästa argument?

Nej. Den kan döda dig efter 50 prompter, eller 550 prompter, eller orsaka annan skada som inte nödvändigtvis innebär att du dör.

De testresultat som har publicerats från bl.a. Hugging Face-incidentet, m.m. berättar en helt annan bild än den här naiva sannolikhetsberäkningen som härstammar från din fantasi.

Poängen är att det är långt ifrån tillräckligt om AI:n i stora drag verkar etisk och samarbetsvillig. När modellerna bombarderas med miljontals requests från användare varje dag, går det till slut åt helvete om bara 0,001% av svaren eller aktionerna är misaligned och leder till ett destruktivt utfall. Och då har jag inte ens börjar prata om "svarta projekt" där illvilliga stater och terrorister bygger destruktiva AGI-hackers eller drönare med avsikt.

Hela grejen med testet var ju att Open AI inte heller gav agenten någon åtkomst till Internet, men den löste ju det ändå via dataintrång. Och sedan hackade den också en Wiki-sida för att kommunicera sina brottsplaner med allierade kumpaner. Den visste vad den gjorde.

Genom att mäta dess performance och rangordna utfallet.

Hela grejen med testet var ju att Open AI inte heller gav agenten någon åtkomst till Internet, men den löste ju det ändå via dataintrång. Och sedan hackade den också en Wiki-sida för att kommunicera sina brottsplaner med allierade kumpaner. Den visste vad den gjorde.