Hur ANN med IQ 130 fungerar

Dåligt exempel. Kom med något riktigt, allt annat är bara åsikter.

Upptäckte denna tråd just och ska läsa igenom den vid senare tillfälle, men jag håller med dig.

Varför är det dåligt?

Hur vet jag vad? Att det är svårare att få modellerna att vara mordiska?
Genom observation. Det finns få rapporter om att kommersiella modeller skulle ha påvisat skadligt beteende och samtidigt används de flitigt av miljoner människor.

Det räcker att påvisa problemet en gång.

Finns inget som är 100% säkert men ändå säkert att använda. Allt fungerar så. Google, flygplan, AI, skära bröd med en kniv...

Om ett flygplan störtar då dör kanske ett par hundra i värsta fall. Men hela mänskligheten utrotas inte. Det är en viss skillnad ändå. Om AGI riskerade att döda en stackars användare om året då hade jag faktiskt inte klagat. Motorcyklar är mycket farligare och de tillåter vi ju. Men vi pratar inte om några dödsfall här. Vi pratar om att alla människor dör för alltid.

Det är ju domedagsscenario. Man ska och måste givetvis se till alla risker som finns, även de potentiella. annars är man naiv, och arbeta mot att riskerna blir för stora. Det är väl där risken finns just nu att optimistiska AI-utvecklare drivs av det intressanta att forma AI medan de mer realistiska pekar på alla ev risker. AI kommer inte försvinna, den dörren är stängd för länge sedan. Det är, kan jag tycka, ett deterministiskt utfall av datorns utveckling.

Varför inte?
El går ju att stänga av överallt, så varför skulle inte internet, eller specifikt AI kunna stängas ner överallt?

Sen kommer ju inte ditt kylskåp försöka döda dig bara för att en robot på jobbet har fått en order om att lämna ett paket och du råkar va i vägen.

Som alla redan vet så sätter de såna gränser efter bästa förmåga, och ibland så misslyckas man, eller det är snarare nån enskild individ som hittar ett sätt att runda systemet på. Det är ju inte tvärtom att alla datorer/AI vill mörda människor, eller hur?

Jag tror också att det är nästan oundvikligt med AGI.
But I'm not going down without a fight.

T.ex. är livsmedelsindustrin väldigt beroende av IT och Internet. Vi får ingen mat om vi stänger ner allt det, därför kommer man inte stänga ner det.