AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Elproduktionen fixar naturligtvis AGI själv. Om det nu är elektricitet som den kommer att använda sig av.

Och Sverige håller på att gå under? Hur menar du? Kan hålla med om att glansdagarna är över, men att tala om undergång är väl lite väl drastiskt? Om nu inte AGI fixar den biffen.

LOL, "aningslös" ringer en klocka.

Men ärligt talat, vad vet du om vilka energikällor en superintelligent entitet kommer att använda sig av i framtiden?

Är du helt låst eller?

Suck gå och läs på om fysik för helvete.

Superintelligens kanske börjar ungefär där våra skolböcker slutar

Ja superintelligensen kommer trotsa känd fysik så klart, den kommer trotsa tyngdlagen, den kommer trotsa allt- allt för att döda mänskligheten.

Jag kan ge dig ett tips, folk som har det absolut högsta IQ vi kunnat uppmäta hoppar inte högre, de springer inte snabbare. Naturlagar bryr sig inte om IQ.

Det enda vi egentligen vet är att en kommande superintelligens är hyfsat oförutsägbar. Och i ljuset av det kanske även den mest naiva borde vara lite orolig?

Ämnet verkar intressera dig oerhört i alla fall. Det är intressant. Ämnet intresserar mig med.
Till skillnad från de flesta så framstår du som helt onyanserad i denna fråga. Det är också intressant.
Jag kan i alla fall sträcka mig till att du förmodligen kommer att få rätt i skutändan. Mänskligheten går inte under.
Men risken finns. De flesta med lite bakom pannbenet förstår det. Jag begriper inte riktigt vilken kulle du är ute efter att försvara i detta?

Nej vi vet inte ett skit om någon superintelligens. Och för den delen vad får dig att tro att ens du och jag har likvärdig IQ?

Jag har inget som helst mål att stå onyanserad i detta ämne, jag har en bakgrund och ett underlag som naturligtvis ligger tillgrund för mina åsikter.
Risken att mänskligheten kommer gå under pga AI forskningen under min livstid är nära 0 vad mig anbelangar.

Och mig veterligen finns det ingen människa i historien (förutom mytomspunna Nostradamous) som kunnat förutsäga framtiden men det går göra väldigt kvalificerade gissningar om man vet vad som händer i branschen.

Jag tycker inte du ska prata om pannben överhuvudtaget när du inte vet att elektricitet är ett energiöverföringsmedium utan tror det är en energikälla.

Jag vet att elektricitet inte är en energikälla. Tack för det förtroendet... Det jag menar är att vi inte säkert kan veta vart en superintelligens kommer hämta sin näring från i framtiden.
Den kanske inte nödvändigtvis är i behov av just elektricitet efter en viss punkt i sin utveckling, efter en viss grad av förståelse för alla tillgängliga element. Den kanske kommer vara sjukt mycket smartare än oss...

Jag tror att vi skiljer oss i att jag kan tänka mig något otroligt, medan du... typ inte kan (eller vill) det.

I övrigt har jag svårt att bedöma om du är smartare än mig. Jag känner inte dig. Du kan säkert ha högre IQ än mig, jag hade något över medel i lumpen, men skulle knappast kalla mig själv för smart.
Tror faktiskt inte att inställningen till denna fråga är en IQ-tävling. Annat spelar in också.
Jag har också gjort en del livserfarenheter genom åren och har lärt mig att inte vara tvärsäker på något överhuvudtaget.

Jag tycker att ditt antagande om "nära 0% risk" är ganska obegripligt. Särskilt i skenet av vad många kunniga och dokumenterat klocka människor nu vittnar om och varnar för.

Du menar att otroligt är enbart om det går åt helvete? Det faktum att vi skulle skapa en artificiell livsform, som naturligtvis inte skulle ploppa ut och vara smartare än något annat i universum på första försöket.

Jag påstod inte att jag var smartare än dig eller tvärtom, jag ifrågasatte varför du gör antagande om att alla är jämlika i samhället eftersom du är rädd för saker som är intelligentare än dig själv.

Vilka många och kloka (antar jag du menar) och kunniga människor? OpenAIs marknadsavdelning och den presskåta Max Tegmark?
Jag skulle klart påstå motsatsen att undantaget flashback så är majoriteten av folk inom AI överrens om att vi varken är i närheten av eller minsta oroliga över att någon AGI skulle kläckas och ha ihjäl mänskligheten.
Jag är väl medveten om att det finns individer här som gapat om det i månader, utan grund och vars enda belägg är rubriker från diverse tidningar.

Spännande situation.

Vad jag tror och har på känn är att det pågår väldigt mycket över våra huvuden. Spektakulära saker som är såpass "sci-fi" att de är svåra att ta till sig. Den breda massan (inkl de flesta av oss i tråden) har så klart ingen susning om vart världen är på väg med utvecklingen av AI. Artiklarna i kvällspressen är givetvis bara små skrapningar på ytan.

Guldfrågan är väl om AI verkligen utgör ett hot mot mänskligheten, eller om det ist kommer leda till enorma teknologiska framsteg för hela världen. Oändlig energi? Medicinska framsteg vi hittills bara kunnat drömma om? Kanske rent av nyckeln världsfred? Listan kan göras lång.

Den som lever får se och jag gissar att vi kommer få se ganska snart.

Vi är likafullt döda pga AI:n.

De hoppar inte högre, de bygger raketer. De springer inte snabbare, de bygger snabbare bilar.