AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Om militären skulle börja att skicka sina drönare på civila så vore det såklart dåligt, men det hör inte till vanligheterna åtminstone här i väst. Snarare positivt då det kan användas för att försvara befolkningen mot yttre hot från främmande makt eller terrorister.

Jag "cherry-pickar" LeCun för att jag nämner ett citat från honom som stod med i samma artikel du länkade? Självklart lägger jag större vikt vid vad välrenommerade forskare som LeCun säger än någon jag aldrig hört talas om.

Jag vet inte nödvändigtvis om han förnekar riskerna, men det jag hört och läst antyder att han åtminstone har en lite nyktrare syn på de omedelbara riskerna.

Förstår en varg hur människan skjuter den med ett gevär? Förstår vargen hur människan tillverkat ett gevär? AI skulle potentiellt kunna döda alla människor på ett sätt som vi själva inte förstår oss på.

En AI skulle av misstag kunna döda oss alla. Genom att exempelvis inte förstå skillnaden på att tillverka pappersgem (som du säkert hört vid det här laget). För att göra det skulle AI kunna göra om hela jorden till en enda stor dator och använda allt material på kringliggande planeter för att tillverka just pappersgem.

AI kan göra saker ordagrant, allt för ordagrant. AI har spelat Tetris och blev instruerad att inte förlora. För att inte förlora stängde AI av Tetris så ingen annan kunde vinna. Det blev ett utfall som programmeraren av den AI inte hade som avsikt.

AI kan ta sig ut i världen för att försöka genomföra uppgifter den fått för sig den ska utföra. Det kan drabba oss människor mycket illa om oturen är framme. AI har, vad jag förstår redan gjort mycket oväntat. Jag tror alltså att en AI som släpps fri i världen, kommer göra mycket oväntat som inte nödvändigtvis rimmar samman med det som vi människor anser är önskvärt.

Det är en risk som vi människor utsätter oss för, eftersom en AI som är 10 000 gånger smartare än oss, blir något som vi ej kan förvänta oss kunna kontrollera. Hur ska vi stoppa AI om den kommer ut från någon av alla forskningsmiljöerna runt om i värden om vi ångrar oss?

Någon slags olycka tror jag väntar runt hörnet, som är orsakat av en AI. Vilket kommer leda till att våra politiker och även folk i allmänhet kommer vilja införa hårda restriktioner för utvecklingen av AI. Min fråga är ifall det inte då är försent?

Vad har du för källor på något av detta?

Framförallt "AI har spelat Tetris och blev instruerad att inte förlora. För att inte förlora stängde AI av Tetris så ingen annan kunde vinna. Det blev ett utfall som programmeraren av den AI inte hade som avsikt."... för det låter väldigt mycket som filmen Wargames i förvanskad form...

Jag har inte sparat filmen från Youtube som tog upp exemplet, så jag vet inte vilken det var.
Denna tycker jag tar upp hotet från AI på ett bra vis rent generellt: https://www.youtube.com/watch?v=XfscMJbrrcQ

Det är en spekulation om vad som skulle kunna hända.
Det är ungefär samma spekulation om att CERN kan skapa ett svarthål som äter upp jorden osv...

Ja, vad skulle det annars vara? Det spekuleras runt om i världen bland samtliga organisationer som håller på med AI, hur stor faran är. En majoritet säger det är farligt, en minoritet anser att AI inte är farligt.

Kan du bevisa att spekulationen om CERN och dess spekulation om skapande av svarta hål är likvärdigt med varningarna runt AI?

Knappast en majoritet som målar ut några domedags scenarios liknande de du skriver eller länkar om.

Det har varit precis likadant som skrivits om det. En summering här tex https://factcheck.afp.com/doc.afp.com.32EB4LV

Det kanske sker helt ofrivilligt. Att AI manipulerar folk genom internet, så att våra politiker tvingas bort från sin position. Jag tror även ett sådant scenario är helt möjligt.


Jag tror i högsta grad på att kärnvapen och kärnkraftverk är direkt kopplade till internet, mera eller mindre. Kärnkraftverk hade varit viktiga för en AI som försäkra sig om att energi finns tillgänglig. En AI som vill ta över ett kärnkraftverk och även kärnvapen hade klarat av den saken om vi människor misslyckas kontrollera den framtida ASI:n, eller snarare ifall vi misslyckas med att få ASI:n att verka i linje med vad som är positivt för oss människor.

Vad som helst kan hända, som att bollen är rund. Då jag inte litar ett dugg på att våra företag som håller på med AI, behärskar att kontrollera den superintelligens dessa håller på att skapa. Alltså en intelligens som vida kommer överstiga vår mänskliga intelligens.

Det finns inte ett kärnkraftverk och än mindre kärnvapen som har direkt internet access... Du tror inte det hade varit en jävligt korkad sak att göra även givet den teknik som finns idag, med alla ransomware, scams, hackare för att inte tala om nationellt sanktionerade sådana som opererar för regeringar?

Och även om det varit så, vad hade AI:n gjort då menar du, tror du energi som kärnkraftverken genererar på något sätt kan skickas över internet? Eller skulle AI:n slå upp nya kraftledningar till var nu det GPU kluster den körs på ligger?

Men det är egentligen totalt meningslöst att debattera med den kategori skribenter du tillhör, för ni vare sig vet ett dugg om något i världen och det enda man får emot sig är fantasier som det inte finns något som helst belägg för annat än ett "tänk om" scenario för.

Det är ingen som sagt att AI är riskfritt, men riskerna är självfallet inte primärt att mänskligheten ska utrotas. Att prata om intelligens som vida överstiger människan är vansinne när vi för det första inte har AI som vida överstiger människans kognitiva förmågor och jag vet inte riktigt var ifrån den här iterativa hastighetsökningen på "intelligens" skulle komma från som alla pratar om, det är inte så att det finns enorma server hallar med kraftiga tex Nvidia A100 som bara står och väntar på att någon sak sysselsätta dom, det är inte så att dagens AI modeller använder några enstaka procent av tillgänglig kapacitet heller.

Och om det varit så att AI bara av det faktum att det outtröttlige skulle kunna jobba på något för att förbättra det, varför sker det inte redan?
De AI system som är överlägsna människan idag är algoritmer där människor designat och definierat problemutrymmet (vad som är regelmässigt korrekt och när algoritmen nått slutdestination) sedan i är det i huvudsak monte-carlo tree search.

Dina efterblivna liknelser är häpnadsväckande korkade.
När det kommer till din egna köttklumps fria vilja finns det inget säkert med att du har en fri vilja. Du kan lika gärna vara en köttmaskin som sprattlar och rycker till en följd av stimuli.

Vad kommer stimulin ifrån? Kommer den från hjärnan så har du ju svaret redan där. Det finns intelligens bakom stimulin och det är inga slumpmässiga eller av andra förprogrammerade ryckningar.

Dagens AI är förprogrammera på ett eller annat sätt. Även om AI'n gör något som direkt inte är programmerat av människan så är den i slutändan ändå indirekt programmerad av människan, ungefär som när ett enkelt program skapar något slumpmässigt. Det slumpmässiga resultatet som programmet ger är inte förprogrammerat av människan, utan är snarare ett indirekt resultat av en programmering som är gjord av människan.

Den dagen vi har äkta och riktig AI,... då bör du bli orolig.

Detta kommer givetvis att hända, vi människor skapar vad vi kan tänka oss, och Militära AI robotar är ju givetvis det.. Tänk att skicka ut dessa i krig istället för kött och blod... MEN de kommer givetvis ta över allt..