AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

a) 0-10 år
b) 10-100 år
c) 100-1000 år
d) 1000-10.000 år
e) 10000-100.000 år
f) aldrig
g) nåt annat hinner före
h) tar minst 100.000 år
i) du bestämmer hur
k) nån annan i denna tråd har redan sagt hur
l1-l infinity) lägg till variabel när eller hur

Varför tror du att reglerna kommer efterlevas? Indien har redan sagt att de inte kommer att reglera AI. Tror du Ryssland och Nordkorea kommer bry sig om våra regler?

Lätt b). Jag säger 15-30 år.

Fast det förutsätter att vi förlorar kontrollen över AI och att det är värdelöst reglerat. Jag tror inte att det kommer regleras så uselt framöver som det gör idag och därmed kommer AI inte tt radera ut mänskligheten.

Grejen är ju att vi i så fall måste utveckla och skapa en medveten AI som dessutom har förmågan att känna empati/medkänsla. Och innan vi kommer dit lär vi ju ha skapat en AI som är självmedveten och som dessutom är extremt mycket smartare än oss.

Så rent teoretiskt skulle den där AI mojängen kunna fejka medkänsla i syfte att nässla sig in och interagera med människor på en helt annan nivå. Likt en psykopat. Med tanke på att AIn är 100 gånger smartare än en vanlig människa och kan ta del av all befintlig vetenskap kring hur man duperar andra på ett smart sätt samt psykologiska mekanismer, så borde inte det vara speciellt svårt.

Regleringar är ju ett av de största hoten. Då regleringar inte kommer vara till för skydda folket utan för centralisera tekniken och makten. Det är knappast något självtänkande skynet vi behöver vara oroliga över, utan det raka motsatta, ett skynet under våra ledares fulla kontroll. Det kommer få 1984 att framstå som inget i jämförelse.

Men om ai blir självmedveten och vill utrota oss, så tror jag knappast regleringar kommer kunna stoppa det ändå. Vi får då lägga ner teknologin helt enkelt. Men ja, om man leker med tanken att vi får ett skynet så känns 15-30 år ganska så realistiskt.

Varför tror du jag kallade det rysk roulette?

Vi snackar snarare 5 år. Och jo, vi behöver regleringar. Och det behöver vi nu. Eller anser du även att vi inte behöver några regleringar för massförstörelsevapen, kärnkraft och mediciner/droger? Det ska vara helt fritt, liberalt och fint? Fullkomligt vilda västern och "marknaden" ska lösa det så att människor på något sätt överlever i kaoset där allt får säljas och allt sker på egen risk?

Och hur skyddar vi oss ifrån att bli utrotade genom att värna om upphovsrätten exempelvis? Om det är som du säger så finns det bara en sak att göra och det är att förbjuda tekniken. Det kommer nog inte stoppa det ändå iofs, då det ändå kommer finnas de länder som utvecklar den, men det är ändå det närmast man kan komma. Regleringar som våra ledare kommer fatta kommer dock främst handla om att centralisera tekniken och makten.

AI kan ge oss alla frihet, det kan också ge oss en fascistisk dystopia. Du verka hoppas på en fascistisk dystopia.

Antingen a, eller f

Jag motiverar det med att vi är som mest sårbara i början.
Vi såg det inte komma o.s.v...

Hinner vi sätta upp regler och få en teknologisk infrastuktur som värnar mänsklighetens säkerhet på plats, så tror jag att vi blir mer eller mindre odödliga.

Om vi överlever de första, kritiska momenten när AI når singularitet, så blir våra möjligheter oändliga.

Vi lär kunna bota fattigdom, sjukdom, åldrande, klimat, och i princip alla jordens problem.

Vi kan leva fantastiska virtuella liv, med extrem valfrihet och bekvämlighet.

Vi kommer antagligen existera i nedladdat format, samtidigt som vi kan välja och vraka mellan olika virtuella liv som vi upplever som 100% verkliga.

Men innan vi hamnar där är risken stor att vi blir utrotade.

Om vi integrerar oss med AI på ett respektfullt och genomtänkt sätt så har vi goda chanser att nå otroliga resultat som vi inte ens kan föreställa oss.

Men tyvärr pekar inte så mycket på det.
Mängder med bevis för att människan rent generellt är för korkad, oaktsam, och vårdslös finns bland annat i denna tråd.

Jag tror inte att upphovsrätt kommer att skydda oss mot superintelligent AI. Varför trodde du det?
Regleringen behöver förmodligen formuleras så att det är "default förbjudet" att i sin källare bygga en superintelligent AI av samma anledning som att du inte får tillverka amfetamin eller bomber i din källare. Sen får man söka tillstånd och godkännande av något statligt verk om man har uppfunnit ett nytt uppiggande medel eller byggt en ny slags AI.
Absolut inte. Jag hoppas på nya fantastiska uppfinningar, mer frihet och en postekonomi. Men det finns en stor risk att det här går åt skogen och då får vi inte ens fascism utan ingenting, för vi finns inte mer.

Kortfattat så tror jag det är av största vikt reglera dom som ligger längst fram i nuläget.
Dessa är de amerikanska techjättarna.
Det gäller att reglera dem, utan att för den delen strypa deras möjligheter för snabb utveckling.

Indien och resten av världen ligger förhoppningsvis ganska långt efter i nuläget.
Lyckas de ledande techbolagen bygga en säker infrastruktur för AI-utveckling så kanske deras program kan fungera som någonslags grindvakt mot okontrollerad och farlig AI?

Jag fattar inte hur man kan vara så naiv 2023. Hur tycker du regleringen av Piratebay fungerat? Lyckades lagen hålla Piratebay borta från internet? Vad får dig att tro att någon inte bara kopierar en gammal fork av ex. GPT4 och jailbreakar den och släpper den?