Hur ANN med IQ 130 fungerar

Fortfarande noll svar på min utmaning i TS.

56-0 till Cyborg2030.

Jo, det var frågan.

Du försöker säga att det inte finns någon matematik i Einsteins relativitetsteori, medans jag hävdar att den såklart inte ens hade fungerat utan matematik, eftersom att det är det vi pratar om.

Jag har skrivit så många ggr att du inte fattar och inte en enda gång har du stannat upp och tänkt efter om det du rapar ur dig faktiskt stämmer.

Eh va?

Det summerar väl både dig och tråden ganska fint.

Försök att få blicken över helheten igen, ett helikopterperspektiv. Förenkla frågeställningen.

Sen försöker du få svar på dina (och alla andras) frågor i tråden.

Varför skulle en AGI attackera en människa ö.h.t, förutom av misstag?

1. Omedvetet som en bieffekt av andra händelser. En AGI försöker kolonisera mars till varje pris och saboterar samtidigt jordens miljö.
2. Om AGI utvecklar en överlevnadsinstinkt (evidens för det finns redan) kan den se andra intelligenta varelser som fiender. Vid exponentiell utveckling tar jordens resurser snart slut. Vem ska få de sista resurserna?
3. Andra orsaker som vi inte kan förstå eller förutsäga, eller av misstag/hallucinationer
4. Terrorism. Diktaturer/terrorister/sekter använder AGI/ASI som vapen mot mänskligheten

Men du ser 0,0% risk?

Ja. Kanske inte 0.0 men absolut inte över 1%

Och samtliga 4 punkter är ju inget annat än killgissningar.

Punkt 1 & 2 = 0%
Punkt 3 = 0,3%
Punkt 4 = 0,7%, den mest troliga bland dina scenarion.

Jag tog upp några möjliga scenarier, sen killgissade du med dina procentsatser.

Jag killgissar att p(doom) är 90% inom 50 år när alla scenarier beaktas och beaktat att vi i dag inte har någon fungerande AI-säkerhet / control / alignment. Under 5% risk anser jag vara ett helt orimligt önsketänkande. Jag kan inte förstå det på något annat än som förnekelse, en form av psykologiskt försvar.

1. Hur ser du att detta ska ske? Utveckla.

2. Det finns ingen evidens utöver ett scenario där dess avveckling skulle innebära att den inte kan uppfylla sitt mål. Även om det skulle ske behöver vi också ha gett AI agens att kunna genomföra detta.

3. ??

4. Det mest trovärdiga scenariot. Har du något exempel på hur AI skulle kunna användas i terrorsyfte? D.v.s. där AI är en direkt orsak till människors död.

Om världens samlade experter hade kommit fram till att det finns en 50% risk för människligheten död via AI, så hade AI varit borta från marknaden, imorgon.

Någon beställer att en armé av AGI-robotar ska kolonisera mars. Robotarna anskaffar resurser för att kunna slutföra uppgiften. Beställaren gillar inte krångel och byråkrati så de väljer en open-source AGI från Kina där sunt förnuft och respekt för miljö och hälsa kan stängas av.
AGI-robotarna kommer att ha agens i den fysiska världen.
Det är väl inte svårt att föreställa sig exempel som kan orsaka stora problem? Drönare, propaganda, förgiftning, pandemier, etc.

Genomsnittet för AI-experter verkar ligga omkring 10-20% risk. Men då vill du avvakta vi tills det blir närmare 50%?

Jag TROR ju inte på snacket om death by AI alls.

Jag trodde att det hade framgått tydligt av mina inlägg.

Den högsta siffran jag hört nämnas är 10% chans inom 10år.
Nej, jag tror att det är helt ute och cyklar här.