AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Då ska denna världsregering vara som Trump, som faktiskt vågar göra något och tar tag i saker och ting, annars kan du glömma det där med världsregering.

Till TS: Du kommer att utrotas av AI och säljas som hundmat, själv är jag någon som AI ser upp till som en gud. AI är min tjänare och undersåte.

Det skrev jag ju inte. Jag skrev att Vintergatans 100000 ljusår är ingenting i astromiska tidssammanhang. Om en ASI uppstod i ena änden av Vintergatan för 1 miljard år sedan (vilket är litet med tanke på universums ålder) så räcker det ju att ASI klurar ut hur man ska färdas 1/10000 av ljusets hastighet för att komma till andra änden av Vintergatan inom den tidsrymden. Du menar att det är helt osannolikt?

Vad gäller sannolikheten till liv och även då intelligent liv i andra solsystem i vår galax så är det väl allmänt accepterat att sådant högst troligt förekommer med tanke på antalet solsystem och att man visat ett de flesta stjärnor dessutom har planeter. Men det känns som det är ämnet i en annan tråd än denna.

Det krävs fortfarande människor för att bearbeta plåt, skruva ihop drönare, och allt annat som krävs för att en fysisk pryl ska finnas till.
Det är ganska lång produktionskedja om man tänker efter.
AI kan inte bara ta över den sådär.

Baserat då på antagandet att en AI känner behov av att expandera över universum. Kanske drar den istället ihop sig och gör sig så liten som möjligt för att inte bromsas upp i sitt tänkande av ljushastigheten. Fyra ljusår är mycket för oss, men tänk hur mycket det skulle vara för en maskin som tänker tusen gånger snabbare.

Du blandar ju in helt olika saker. Ja, 1 miljard år är lite i kontrast med universums ålder, men det är EXTREMT lång tid för biologiskt och artificiellt liv. Du sitter och fantiserar ihop att AI ska kunna utveckla en rymdfärd som tar miljarder ljusår? Hur då? Ska den vara byggd av hittepå material som håller i oändligt länge? Ja, det är helt osannolikt Lägg då till att varför ska denna teoretiska ASI åka just till vår galax och solsystem? Har den en annan hittepå maskin som ser vart det finns annat liv i universum?
Nej, det är inte högst troligt att intelligent liv existerar utanför vårat solsystem eftersom att det krävs så specifika förhållanden för att något liv överhuvudtaget ska uppstå. Intelligent liv är ännu mer osannolikt och att den civilisationen samtidigt utvecklar rymdfärder och ASI är ännu mindre troligt.

Ja det är sant iofs. Det kan ju vara en hypotes.

Självklart så använder den nytt material på vägen. Det lär väl inte vara så konstigt. Den har ju oändligt med tid. Den lär ju dublicera sig själv med exponentiellt stor hastighet också och därför kunna sprida sig åt oändligt antal riktningar från varje punkt den dublicerar sig från.
Vi emiterar många olika form av strålning från vår existens så osynliga är vi knappast? Om vi med vår begränsade teknologi kan hitta exoplaneter, över 5000 i dagsläget, i andra solsystem och även kunnat uppskatta deras storlek och om de ligger i den beboeliga zonen så lär det väl vara rimligt att ASI kommer att utveckla helt okända metoder för att hitta liv i andra solsystem.

Aja alla får väl ha sina tankar kring detta.

Atomer håller oändligt länge. Det är bara bygga in en förmåga att reparera sig själv. Jorden har inte nötts ut på 4,7 miljarder år. Miljarder ljusår är förvisso tufft i ett expanderande universum där man måste ha hög hastighet för att inte destinationen istället skall bli allt mer avlägsen, men lokala galaxhopen går att nå med lite tålamod.

*Om* en civilisation, vare sig den är biologisk eller maskinell, bestämmer sig för att expandera kan den lätt skicka ut hundratals sonder i alla riktningar som så fort de når en destination sätter igång och bygger fabriker som kan tillverka fler som skickas vidare utåt.
https://en.wikipedia.org/wiki/Self-replicating_spacecraft

En möjlig lösning till Fermiparadoxen är att det kom en första civilisation som snabbt spred sig men har haft som policy att inte störa annat liv under utveckling utan istället agera "polis" som hindrar alla senare civilisationer för att expandera och ta över allting. De har en väl dold bas någonstans i solsystemet och den dag vi får för oss att skicka ut en interstellär sond får vi meddelandet: "Solsystemet är ert, men håll er borta från resten av universum".

Hur sannolikt det är att liv uppstår har vi ingen som helst aning om.

Jo, jag håller med. Jag tror att det finns en väldigt stor risk för att vi inte överlever superintelligent AI. 50/50 kanske. Om jag är optimistisk.

Det finns många möjliga katastrofala scenarier. Automatiserad krigföring. Bioterrorism. Längre fram: en ASI blir självmedveten och tusen gånger smartare än oss. Vi kan då bli betraktade som skadedjur och vi blir totalt överkörda. Kanske inte aktivt mördade av en ondskefull terminator (eller halmgubbe), men AI:n har eventuellt helt andra prioriteringar än oss med jordens resurser. Inkl energin från solen! Jag har kommit fram till detta genom att jag har förmågan att se helheten samt resonera och tänka holistiskt. En förmåga som obekymrade teknikoptimister och andra drömmande figurer tydligen saknar.

Största risken är att vi eftersträvar att effektivisera bort arbeten för att blidka miljardärer. Så ai tar bort jobb och fattigdom uppstår. Å andra sidan lockar tanken att ai kan skapa jobb oxå

Tänkte du att dessa miljardärer skulle skänka bort det AI:n producerar när det inte längre finns några kunder som har en inkomst att betala för varorna med?

Det är grundkonceptet i filmen "Terminator" (1984): Skynet, inkopplat i allt, utvecklade egen intelligens.

Nej, tror inte det är någon större risk. AI är bara nästa grej som man kommit överens om att sälja.

Sedan när den är passé hittar man på något annat.

Förhoppningsvis kan vi gå tillbaka till snigelpost och annat trevligt istället.