AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Ja det finns väldigt många frågor... Men "att dra ut sladden" är väl att se det hela lite enkelspårigt?
AI finns, och kommer väl finnas där internet finns. Och det vill säga överallt.

Det är inte precis som att AI bor i en specifik dator, som man bara kan stänga av elen på.
Ska man stänga av AI behöver man nog släcka ner hela internet.
När ska sladden dras ut förresten?
Tror du AI förvarnar oss ett par dagar innan den tänker utrota mänskligheten?

Jag tycker att du ser väldigt naivt på saken.

Så länge människor producerar elen är det bara att dra ur kontakten. Som skedde med tunnelbanan i förmiddags.

Haha, säger du utan att kommentera huvudpunkten av det jag skrev. Du är ytterst naiv och förstår inte livets komplexitet. Bevisa nu motsatsen och berätta hur AI organiserar sitt samhälle med miljarder med tänkande enheter som alla behöver energi och material.

Intelligent design skulle alltså vinna över evolution. Kreationisterna har rätt.

Neanderthalarna hade större hjärnor och bättre fysik än de människor som utrotade dem. De senare hade samarbetsförmåga och en "distribuerad" intelligens (man kan se det som grid computing).

Intelligens är bara en parameter av många att spela med i det evolutionära spelet. Största nackdelen är att den kostar i form av energiförbrukning.

För att AI skall "ta över" så måste den efterlikna evolutionen, som är en mekanism för att "vilja" leva. Den måste ta igen de miljarder år av evolution som övrigt liv på planeten gått igenom. Evolutionens logik är också sådan att den är totalt blind för hur den tar sig fram. Inget säger att AI skulle välja konfrontation med människor, lika lite som djurarter försöker utrota människor.

Wow... AI organiserar sitt samhälle? Dra ut kontakten? Jisses...

Jag tycker att du ska försöka läsa på lite om AI och AGI och återkomma med något någorlunda genomtänkt sedan. Detta tog du verkligen på uppstuds

Lästips:

James Barrat: "Our final invention"
Yuval Noah Harari: "Homo Deus"
Max Tegmark: "Liv 3.0"
Chen Qiufan: AI 2041

Genom att läsa dessa får du en bra introduktion till ämnet.

Det finns också en mängd bra poddar som behandlar ämnet. Bland annat Lex Friedman djupgräver i ämnet tillsammans med flera av världens främsta forskare inom Artificiell Intelligens. Kolla hans kanal på youtube

Riktigt, såvida programmerarna inte har gett den ett intresse eller en mekanism som efterliknar evolutionen. Då drivs den av sina geners "intresse" av att leva vidare.

Att intresset helt plötsligt skulle uppstå från tomma intet är någon luddig fantasi.

Då var det som väntat. Du är i likhet med andra troende helt naiv inför verkligheten och kan inte för en sekund förklara hur distribuerad AI skulle förse sig själv med energi för överlevnad, med material för reproduktion eller hur enheterna skulle samarbeta och lösa konflikter.

Vilka i tråden har praktisk erfarenhet av saker som styrprogrammering, kameraseende och automation?

Inte många av sci-fi-nördarna, kan jag säga.

2015 Musk och Gates samt kiseldalens rikaste bildar OpenAI.
2018 snor Musk produkten och ska göra självkörande Tesla med den.

Det sket sig och 2023 öppnar Musk bolaget X.AI med sin dåliga bilförare som produkt som ska börja chatta.
Han äger medier och eldar på en folklig misstänksamhet att Chatt- botarna ska ta över världen som i Filmerna om terminator.
Han smyger in att hans egen bot ska lanseras om 6 månader och återigen så är han kungen av marknadsföring.

Som svar på topic är att svaren finns om man vill få dem, inte minst på detta forum. Men sci-fi låter mer spännande så ni har inte ett sinne att kunna se dem.

Hur en fullt utvecklad AGI skulle förse sig själv med el är nästan ickefråga i sammanhanget.
En framtida superintelligens fungerar troligen i förlängningen helt annorlunda än vad både du och jag kan föreställa oss.
Den kanske använder sig av andra energiformer än just el, vad vet vi?

Men låt oss förutsätta att den behöver el. Varför skulle den exempelvis inte kunna släppa ut ett virus som utrotar mänskligheten INNAN du hinner rycka ut sladden?

Nej, den behöver naturligtvis inte rent fysiskt blanda ihop viruset i ett labb, men den räknar ut vilka komponenter som krävs för att sätta ihop ett luftburet dödligt virus.
Därpå manipulerar den labbpersonalen att blanda till viruset, varpå den manipulerar budkillen som ska leverera "provet" till andra sidan stan så att han i stället häller ut det i en papperskorg på en T-bane station.
Sedan är det över på ett par dagar, oavsett hur mycket du står och rycker i sladden.

Detta var såklart bara ett torftigt exempel på vad en AGI som är, låt oss säga 10 000 gånger smartare än oss, skulle kunna göra.

När AGI når singularitetspunkten så kommer den troligen vara EXTREMT intelligent redan några minuter senare.

Demokratin är redan hotad i och med chattbotar. Det är inget nytt. Vi är redan manipulerade av AI. I morgon ännu mer. AI är de nya lobbyisterna.

Det behöver man bara googla om. På tal om det, google filtrerar alla datorers sökningar, vi lever i filterbubblor. Ju mer tillgång på info vi har desto mer fastnar vi i våra filterbubblor och det reflekterar inte gemene man över, de flesta vet inte ens om det.

Sant. Folk är redan helt bortdribblade av algoritmer.

Jag har många vänner som har köpt hela åsiktspaket baserat på vad som "dyker upp" i deras flöden på mobilen.
De har helt slutat att tänka självständigt.

Och som du säger: De flesta vet inte ens om det.

Ditt resonemang präglas av önsketänkande.

Du tänker dig att en AGI skulle bli 10 000 gånger smartare "än oss" (vem menar du? En enda person eller hela mänskligheten tillsammans?) genom att den når singularitetstillstånd.

Den använder potentiellt en energikälla som inte är el som är ...? Elektricitet är förhållandevis enkelt att få tag på och sedan driva saker med. Att en smart AGI skulle klura ut någon annan energikälla genom bara sin egna kapacitet är mer önsketänkande. Vi har funderat ut hur man kan klyva atomer för att få nog med värme för att koka en massa vatten för sedan driva ångturbiner med i kärnkraftverk. Det fordrar en hel del arbete för att det ska bli till, men vi har listat ut hur det kan göras.

Att vi kan tänka oss en Stålmannen-liknande AGI som kan göra vad som helst är inte samma sak som att det faktiskt är möjligt för en sådan att finnas. Fysikens lagar gäller i verkligheten och då även för en supersmart AGI.

Något verkar vara osannolikt men då hoppar du in och säger ungefär att "om det bara var en smart nog AGI så skulle det vara möjligt för AGI:n att ta över världen" - du hoppas att en AGI smart nog skulle kunna bli till, så att det passar in i din världsbild där en är möjlig. Genom att sedan anta att din hoppfullhet stämmer med verkligheten så tänker du dig att det också kommer att ske.

Domedagsscenariot med ett AGI-utvecklat luftburet virus är science fiction-fantasi.