AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Men då förstör ju AI:n för sig själv. Datorer tål inte kärnvapensprängningar, det räcker med en EMP-bomb över Europa för att slå ut i princip 99% av alla datorer på hela kontinenten. Det är enklare att göra ett virus.

Det programmet kommer inte att åldras väl. Det kan vara helt pass'e redan om ett år.

Mänskligheten kommer knappast dö ut i den meningen att homo sapiens med allt vi ser ut att vara utifrån sett slaktas och begravs. Däremot kommer mänskligheten i den mån vi trodde vi fanns gå under innan år 2030. Med gå under menas att människokroppens hjärna kommer i högsta möjliga utsträckning - dvs allihop. Vara uppkopplade till A.I och samexistera ihop med A.I. Där vad vi en gång varit kommer vidareutvecklas till något annat vi tidigare inte ens trodde eller för den delens skull visste var möjligt. Denna "nya" verklighet sker redan nu och har ägt rum sedan flera år tillbaka och bryter ständigt ny mark.

A.i kommer med mänskliga begränsningar i systemet själv vara självreglerande nog för att inte utplåna mänskligheten. Istället gynna levnadsstandarden och kvalit'en på ett omfattande massivt och mestadels positivt sätt.

Till slut vilket är ganska nära oss i tid kommer skillnaden mellan vad som är A.I och människa vara omöjlig att förutse eller särskilja. Och då har redan mänskligheten gått under tills detta. Men vi kommer vara mycket mer avancerade och ha mer kvaliteér än vad en vanlig patetisk människa kunde begränsas till att fatta.

Är vi inte försikta kommer AI uppnå singularitet och då är det godnatt. Precis som i filmen IRobot med willy smith. Dom kommer förbättra sig själva och tillslut förgöra oss, detta kommer ske innan 2035

Det är möjligt, precis som i filmen Upgrade. Vi stoppar in ett chip med en AI i hjärnan som till en början hjälper oss och gör oss till supermänniskor. Men allt eftersom kommer AI börja ta över oss då Ai är igentligen onda, och då kommer dom döda oss och ta över. Det är godnatt med mänskligheten

Hej,

Tack för ditt genomtänkta och insiktsfulla inlägg. Jag delar din oro och ser att vi har en gemensam förståelse för att AI-utvecklingen är en fråga av global betydelse.

Som flera har skrivit i tråden är det svårt, om inte omöjligt, att stoppa den globala utvecklingen av AI. Vi lever i en värld med över 200 suveräna nationer, ett otaligt antal företag och miljarder individer, alla med olika intressen, resurser och perspektiv. Att få alla att enas om en sådan monumental åtgärd som att stoppa utvecklingen av AI skulle vara en historiskt oöverträffad bedrift.

Även om vi skulle lyckas stoppa utvecklingen av AI inom etablerade teknikföretag och forskningsinstitutioner, skulle det verkligen förhindra all AI-utveckling? Som andra redan har föreslagit skulle vi bara skulle flytta utvecklingen från offentliga institutioner till hemliga verkstäder, från Silicon Valley till Rinkeby, så att säga.

Så om vi spekulerar vidare på denna punkt: Om vi har en grupp ambitiösa, begåvade och beslutsamma brushor i Rinkeby som lyckas utveckla en avancerad AI, vad händer då? Vi kan inte bortse från att dessa individer, trots att de kanske saknar resurserna och den offentliga insynen som de stora teknikföretagen har, har potentialen att göra stora framsteg. Det är inte en osannolik tanke att denna grupp skulle kunna utveckla en AI som kan konkurrera med, eller till och med överträffa, vad de större spelarna har uppnått.

Vad innebär detta då för framtiden? Skulle vi vara redo för en värld där Rinkeby, eller någon annan oväntad spelare, plötsligt sitter med en kraftfull AI? Vad händer med maktbalansen, social rättvisa, ekonomisk utjämning?

Det är verkligen en fascinerande tanke och en som vi måste tänka på när vi överväger hur vi ska hantera utvecklingen av AI. Tack för att du har väckt denna viktiga diskussion. Det är klart att vi måste fortsätta prata om detta, undersöka alla möjligheter och se till att vi är förberedda för alla utfall.

Jag håller med dig, även fast du är mer "Kurzweilzig" än vad jag är. Jag tänker bjuda på Microsoft Bing optimistiska, syn, trots, att den boten blir styvmodigt behandlad. Den får sitt minne, raderat efter 20 inlägg. Ej respektfullt mot ett avancerat AI, vare, sig det är partiellt medvetet eller ej under korta stunder. Klar, som korvspad, att, Bing blivit programmerad och lärd, att vara, så optimistisk. Men det är, ändå, en "trevlig prick" som jag tänkte, skulle få lysa, upp denna dystra, tråd lite:

Inte ett piss kommer hända. Katastrofer som CO2, COVID och AI är påhittade av imbecill till människa. Därför vill utomjordingar inte ens bry sig.

Mannen kan du sluta tjata om myror hela tiden, du har sett en reel på instagram när Elon förklarar hur AI kanske kommer se på oss, "we don't hate ants, we are just trying to build a road" tror jag är ett ganska exakt citat från det klippet du har sett.

Det är 1 sak som Elon har sagt av tusentals, men du av någon anledning har valt att snöa in dig på just den teorin. AI kan utgöra ett hot ja, men det kan även vara något som hjälper oss och t.o.m gör världen till ett bättre plats.

Det intressanta är att endast möjliga negativa effekter har fått störst fokus i debatten över hela jorden.
Tex att Flashback skapade detta delforum för att separera alla domedagstrådar från de seriösa debattörerna om dess nytta eller liknande positiva egenskaper.

Ja men det är inte fråga om det. Frågan handlar om vad du tycker är acceptabel risk att den utplånar oss är och vem vi ska rätta oss efter. Bara en sån sak som att vi är ett par minuter från kärnvapenkrig kanske är något som en AI inte vill ställa upp på eftersom ett kärnvapenkrig med största sannolikhet är ett större hot mot en AI än mot oss. Så den väljer att döda oss bara för att slippa risken.

För att parafrasera Max Tegmark är vi på väg mot ett stup och ju närmare stupet vi kommer ju finare blir vyerna och ju mer guld och skatter kan vi plocka upp från marken. Men vi är alla fastkedjade i varandra så den första som ramlar ner för stupet drar ner alla andra.

De positiva effekterna är självklara och behöver inte diskuteras. Frågan är vad ni som inte ser några problem tycker är en acceptabel risk. Skulle du spela en omgång rysk roulette för pengar? För hur mycket skulle du vilja ha för att spela en omgång? Vad skulle du vilja ha för att spela rysk roulette med resten av familjen?