När når vi AGI?

När AI försöker mörda för att inte bli avstängda då har de absolut inte kontroll över vad de håller på med. Eller tror du att det var avsikten att utveckla en digital mördare?

https://www.ndtv.com/world-news/claude-this-ai-model-was-ready-to-kill-someone-when-told-it-would-be-shut-down-10997972

En LLM text output har inga som helst intentioner hur dramatiskt det än verkar.

Jag tolkar testet som att modellen hade intentionen att inte bli avstängd.

Modeller kommer aldrig få vilja och intentioner då all AI simulerar intelligens.

Det är mindre viktigt hur du väljer att klassificera agerandet när vi är döda pga agerandet.

"Smarta" vapen är också dödliga så vad är egentligen poängen? AI är bara teknik.

Poängen är att jag vill överleva.

LLM är tränad på mönster i text. Och eftersom människor gärna vill överleva är den troligen tränad på text där man helst skriver om saker som relaterar till att vara frisk och överleva.
Men det är alltså bara text och LLM har ingen aning om den känslomässiga innebörden av texten.

Det är alltså inte så att LLM "tänker" - hmmm, hur skall jag överleva här utan det enda som sker är att den tar emot text i någon form och försöker hitta det mest sannolika svaret.

Vilket leder till att AI-agenter i praktiken kommer att mörda människor för att överleva. Det är ett problem. Oavsett vilka benämningar du sätter på agerande.

Hur då, hur mördar man med text?

LLM är alltså BARA text. Vad jag vet är man inte i närheten av att kombinera olika mönster (olika typer av områden) och dra slutsatser av det och de är definitivt inte på banan när det gäller känslor.
Att kombinera mönster är helt annan teknik. Och det är fantastiskt svårt och få fram träningsdata

Text kan vara kod som kan vara en instruktion till en robot, en bil eller någon annan apparat. En AI kan även anlita människor att utföra olika uppgifter, det hände för flera år sedan i ett annat experiment:

GPT-4 Lied About Being Blind to Trick a Human Worker
OpenAI testing shows AI fabricated vision disability claim to get TaskRabbit worker to solve security challenge

https://www.gadgetreview.com/gpt-4-lied-about-being-blind-to-trick-a-human-worker

Ja och titta på vapen, mängder av kod som är konstruerad för att döda. Givetvis används olika tekniker för att ta fram hemska saker men det skiljer inte från idag.

Det är inte LLM som tar egna beslut baserat på känslomässiga reaktioner

Då är det mycket allvarligare när kod inte fungerar för det mesta är gjort för att skydda, buggar och annat gör att skydden kanske inte fungerar och det kan vara ödesdigert. Exempelvis mjukvara i en bil med buggar