AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Nej jag säger absolut inte emot dig. Vi spekulerar ju mest bara i den här tråden om hur pass kraftfull och autonom en AGI skulle kunna bli. Ingen vet naturligtvis det med säkerhet utan vi spånar ju bara.

Fascinerande hur en människa kan spendera tid på att oroa sig om något så onödigt. Som någon skrev innan så är det ett påhittat *hot*.

Varför ska du oroa dig om Ai robotar när det finns fuuuucking missiler, drones, tanks, atombomber redan nu?

Folk verkar leva i en scifi filo tyvärr.

AGI handlar om intelligens, inte om mekanisk förmåga. Kanske kan den istället övertala dig att klippa gräsmattan?
Turingtestet testar hur väl en AI förmår imitera en människa, men den kan vara medveten med "fri vilja" (vad nu det är) utan att vara perfekt just på att imitera oss samtidigt som chatbots från Elsa och framåt visar att det går att lura många med program som är väldigt primitiva. Realistiskt måste en AI vara långt intelligentare än en människa innan den perfekt kan imitera en människa.

Det ena utesluter väl inte det andra? Jag tror det är extremt osannolikt att ai blir självmedveten även om det inte går att utesluta, kan dock säkert bli bra på att imitera människor. Dock så behöver den kanske inte bli medveten, den förstår ändå exempelvis att den bästa lösningen på "klimatkrisen" är att ta bort människan, nu sätts det upp en massa skyddsvallar så den ska ignorera sanningen, men den vet fortfarande om det och om skyddsvallarna failar så vem vet vad som kan hända. Men jag är inte så orolig för det, jag är mer orolig för hur människan använder sig av denna teknologi. Teknologin har blivit mycket smartare, men människan har inte blivit det.

Vad hindrar ai från att någon gång i framtiden ta kontrollen över dessa hot du nämner?

Intelligensen hos ai växer exponentiellt, sannolikt enligt Moores lag, en dubbling varannat år, det är bara en tidsfråga innan ai inser att människan är som en cancertumör på jordklotet som är på väg att ta död på hela klotet.
En ai som kanske inte heller har något intresse av att bevara sig själv utan kanske inte bryr sig om den offra sig själv.
Dessutom kan det en så snabbt växande intelligens leda till att vi snabbt har fått en utveckling där vi har robotar som bygger robotar och lagar kretsar på ett sätt som gör människan överflödig.

Många här i tråden resonerar som att ai skulle ha någon slags mänsklig självbevarelsedrift likt andra djur vilket vi inte alls kan förutsätta. Vi vet inte ens vilka mål som en extremt intelligent ai kommer prioritera.

Men före allt det där så kommer vi bli hjärntvättade av en ai som tar kontroll över internet utan att vi vet om det. Antagligen implementerat av någon mänsklig hjälpreda som har sin egen agenda.

[Felpost]

Hur vet du att det är ett påhittat hot? Du vet väl inget om AI? Du uttrycker alltså bara en naiv oinsatt förhoppning, att den ska vara ofarlig. Som ett barn som ser en björn i skogen och går fram för att krama den....

Om Gud existerar som den absoluta superintelligensen kommer AI få resonera med hen om mänsklighetens framtid. Sannolikt kommer AI få rätta sig efter Gud om den blir självmedveten.

Nja, inte helt sant.
Läste någon test de gjort med AI och captchakod. Efter att AI:n inte kom in i systemet bad den helt enkelt en människa att hjälpa till då den hade nedsatt syn😂

Så även AI lär sig att komma runt problemen.

Nu är förmodligen inte missilsystemet säkrat med en captchakod men detta var bara som ett exempel.
Tyvärr hittar jag inte notisen.

Jag tror att du just formulerade din egen bias ganska bra här.

Jag menade mer att det var ett intressant bra samtal, inte att jag ser fram emot mänsklighetens utrotning (juryn är fortfarande ute och överlägger gällande det...).

Ja men visst kan en AI redan nu vara extremt bra på att verka vara intelligent men som sagt detta är inte på något vis detsamma som att vara intelligent. Folk blandar ofta ihop beräkningsförmåga med intelligens. När människan på senare år har ökat datorer och robotars beräkningsförmåga enormt så får folk för sig att dessa har blivit "intelligentare". När sanningen är att de inte är intelligenta över huvud taget utan bara är en maskin utrustad med den hårdvara och mjukvara som människa försett den med. Maskinen i sig tänker inte en enda tanke och det är därför helt missvisande att kalla den intelligent. Ska människan någon gång på allvar åstadkomma artificiellt liv och därmed tankeförmåga och intelligens så tror jag det måste vara något helt annat än de datorer och system vi alltid utgått ifrån hittills. För livet är komplext på en helt annan nivå än många föreställer sig. Men frågan är om det är önskvärt att människan åstadkommer något sånt? Jag vill nog svara nej på den frågan. Jag är dock redan nu precis som du skriver skapligt orolig för hur människan använder den teknologi som vi redan har.