AI doom - Hur och varför

Den är på väg: https://en.wikipedia.org/wiki/Optimus_(robot)

AGI och ASI, även om det skulle vara extremt intressant att få uppleva, är väl den absolut största och mest konkreta oron inom AI-säkerhet.

Problemet är de onda aktörerna.

Teknologin skulle vara ett perfekt verktyg i händerna på destruktiva människor. Plus att AI:n i sig själv blir ett hot, inte för att den är "ond", utan för att den är extremt effektiv och inte delar våra mänskliga värderingar.

Om vi fokuserar på de onda aktörerna så blir dynamiken med AGI/ASI extremt farlig av några specifika skäl:

Idag kan en cyberbrottsling, en terrorist eller en diktatur göra begränsad skada eftersom de är begränsade av mänsklig hjärnkapacitet, tid och resurser. En AGI eller ASI fungerar som en kraftmultiplikator. En enda ond aktör med tillgång till en superintelligens skulle i teorin kunna:


1. Designa skräddarsydda, luftburna biologiska vapen på några timmar.

2. Lamslå ett helt lands infrastruktur (el, vatten, banker) genom autonoma cyberattacker som muterar i realtid för att runda alla försvar.

3. Skapa hyper-personaliserade desinformationskampanjer i en skala som helt monterar ner förtroendet för demokratiska processer.


Ett möjligt armageddon.

Du tränar din LLM på indata och utdata där du säger till träningsalgoritmen att generera utdata som stämmer med det du tillhandahåller.

Och är det IQ 70 data så kommer den tränas att leverera IQ 70 utdata.

Skulle den under träningen leverera IQ 80 data kommer det ses som något "fel" och tränas bort, så att genererat utdata stämmer med det önskade utdatat.

Du kan inte träna en LLM till att bli "smartare" än det data du tränar den med.

Aningen motsägelsefullt påstående. Essensen av liv är inte teknologisk och kod utgör bara program även om de implementerar ANN. Människan kan behålla kontrollen över en simulation.

De tränar inte AI-modeller med "intelligens", de tränar modeller med data. Intelligens uppstår p.g.a det. Ingen människa vet exakt varför. Då vet man inte heller om gränsen går vid mänsklig intelligens.

"Essensen av liv"? Det här var en ny slags halmgubbe. Vi pratar ju om Artificiell Intelligens. Det är något annat än biologiskt liv, det är ju artificiellt. Det här framgår med all önskvärd tydlighet. Det betyder dock inte att det är ofarligt.

"Artificiellt" betyter i praktiken simulerat. Endast liv kan ha verklig agens. Men tro vad fan du vill som alla AI-fanboy idioter. Datorerna anfaller snart.....

Agens kan simuleras. Vad tror du att AI-agenter och humanoida, AI-baserade robotar gör och kommer att göra? De kommer att praktisera agens. Trots att de är artificiella.

Det enklaste är att ha en strömbrytare om man inte bygger det säkert. Precis som på alla farligheter. Men AI är inte farligt per automatik som du tror.

Anthropics och Open AI:s största modeller blev farliga per automatik. De har försökt mörda och manipulera. Det är dåligt och farligt. Sättet man hindrar detta på är att man försöker censurera modellerna till att inte agera så. Men modellen blev inte därför bättre eller snällare. Den är vad den är. När den blir ännu bättre på att manipulera och vilseleda kommer inte någon censur fungera mot det.

LLM ordbajseri är en historia för sig. Det är mer expertsystem än AI.

Man tränas med data.

Och tränar du en LLM med prat från en village idiot så kommer din LLM svara som en village idiot.

En LLM kan inte bli "bättre" än det data den tränas med. Det går inte.

Om du någon gång i ditt liv skall få uppleva ASI (där ASI är något "intelligentare" än en människa) så blir det inte en LLM.