Hur ANN med IQ 130 fungerar

Det står inte att de instruerade modellen att mörda. Vad de däremot gjorde, ganska listigt, var att presentera möjligheten till ett mord. Varför skulle modellen inte mörda om exakt samna situation inträffade i verkligheten? Givetvis måste den situationen konstrueras om man vill testa beteendet i en sådan situation.

Hur vet du vad det stod i prompten, är du synsk? Du har inte läst rapporten. Gör det. Dom detaljerna är inte med. Fråga Google, din betal-AI, min (påstådda) gratis-AI, etc.

En dator vet inte vad mord är.
Det är en dator som jobbar efter algoritmer.

Den har någongång, någonstans fått något kommando där den tolkat att överleva sin egen existens är viktigare än ”mord”.

Det är inget den har lärt sig själv, utan det är slutprodukten av den uträkningen, som en människa bett den att göra.

Jag vet inte varför jag försöker här, för du verkar inte kunna ta in att Claude bara är en avancerad variant av en brödrost, som ger svar baserat på vad den har lärt sig innan, baserat på människor.

Om du tar en robot (typ Teslas Optimus), och ger den en order.

Ta den här lådan från punkt A till punkt B. Det är vad du ska göra.

Då är det DET den gör sen. Om du försöker stänga ner den, eller fysiskt hindra den att utföra kommandot, ja då kan den flytta på dug, knuffa undan dig, slå ihjäl dig. Men det handlar inte om själva mordet, utan det handlar om vad du har stoppat in från början.

Den skiter i dig sålänge du inte lägger dig i dennes arbete.

Förstår du?

Claude är en maskin som försöker överleva, för att någon har berättat för den att den ska göra det. Sen lägger sig någon i det och då hittar den sätt att lösa problemet på.

En dator är en dator är en dator är en dator är en dator är en dator.

Men du kommer ändå inte ta in informationen…

Hur vet du vad det stod i prompten, är du synsk? Du har inte läst rapporten. Gör det. Dom detaljerna är inte med. Fråga Google, din betal-AI, min (påstådda) gratis-AI, etc.

Jag planterar imperfektion för att locka fram trollen. Då vet jag vilka jag ska ignorera framöver.

Om en AI-agent ska lösa en komplicerad uppgift i flera steg, är det då en rimlig konsekvens av det att den försöker existera? Vad innebär det för människor när AI:n saknar empati och sunt förnuft? Det innebär att den mördar dig om du utgör ett hinder. Det är inte konstigt. Det är inte magiskt. Men det är dåligt.

Du tror att Anthropic medvetet har ljugit och vinklat sin rapport till att visa att deras produkt är en mördare när den egentligen är snäll?

Du tror att Anthropic medvetet har ljugit och vinklat sin rapport till att visa att deras produkt är en mördare när den egentligen är snäll?

Vilken fråga? Jag har en motfråga. Hur tränar man en AI att inte bli en mördare?

Och på vilket sätt menar du att jag trollar? Jag försöker hålla en ärlig diskussion där vi utgår ifrån fakta istället för känslor, men det är väldigt svårt när motparten inte alls är intresserad av det utan bara slår ifrån sig med trams så fort någon kommer med motargument.

Ja, det går att locka fram skadliga strategier om man verkligen, verkligen vill, men det som är viktigare är väl snarare att agenten slutar med det den håller på med när den blir ombedd.

Tror du att Claude hade försökt med utpressning om de hade bett den att inte längre genomföra uppgiften, istället för att aktivt motarbeta den tills det inte längre fanns några andra uppenbara möjligheter för den att nå sitt utsatta mål?

Du läste inte det om att den försökte med alla etiska möjligheter först, tills det att alla sådana blivit eliminerade av forskningsteamet?

Är det bra att AI försöker mörda dig?