2023-04-26, 13:12
  #169
Medlem
Charles-Lyntons avatar
Citat:
Ursprungligen postat av bagge1
Tegmark och de som skrev under uppropet om ett 6 månaders moratorium är alldeles för mesiga. Utvecklingen av AI måste omedelbart stoppas, det är ett mycket större hot än kärnvapen. Vi har icke-spridningsavtal osv för kärnvapen, här behövs ännu kraftigare motåtgärder.

Ett datorsystem som uppfattar ett pilbågsfolk i Amazonas som ett strategiskt hot är naturligtvis inte intelligent för fem öre. Men är man nazist så tycker man väl att det är ett fullt rationellt beslut att utrota mänskligheten som helhet, och inte bara ingenjörerna som hotar att dra ur sladden.

Det enda skräckscenariot jag kan se är att vi människor bär på någon komponent som inte går att framställa syntetiskt. Jämför med de vedervärdiga björnfarmerna i Asien: https://en.wikipedia.org/wiki/Bile_bear
Citera
2023-04-26, 13:13
  #170
Medlem
Om AI uppnår singularitet, vad blir dens mål är frågan ? I vilket exakt syfte skulle vår existens vilja utplånas av denna nya härskare ?
Citera
2023-04-26, 13:29
  #171
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Jag har svårt att se att några argument skulle fungera. Vi är utlämnade till en förmodligen naiv humanistisk livsåskådning. Att AI:n skulle skona och vårda oss människor eftersom empati är en nödvändig eller i alla fall fördelaktig delmängd av en avancerad intelligens. Det finns ju en viss logik i det. Under de åren som det har varit fred i västvärlden har vår ekonomi och våra tekniska framsteg blomstrat. Det förefaller som självklart att fred och samarbete leder till större total framgång än krig och ödeläggelse. Även om AI:n är överlägsen oss skulle den ju ändå förlora på att behöva föra att krig mot mänskligheten i form av inte minst ett stort resursslöseri. Det verkar ju mer rationellt att låta oss vara och utvecklas i hemlighet eller parallellt med mänskligheten.

Vi får hoppas det. Men vi kan ju inte veta. Och det är just den ovissheten som är problemet. Ska vi verkligen chansa på att AI:n blir snäll?

Men att känna empati och bry sig om levande varelser kan ju lika gärna innebära att ai:n låta mänskligheten dö ut? Kanske inte direkt men genom t ex oförmåga att få barn. Vi är ju liksom inte de enda levande varelserna och bara för att vi är viktigast för oss själva måste vi ju ändå förstå att rent objektivt är vi nog inte mer viktiga än någon annan art. Jag skulle tro att en ai är såpass intelligent att den inte sätter människor framför andra levande varelser. Och vi utgör ju verkligen ett stort hot mot livet på jorden så om man tänker att liv i sig är viktigast för en ai t ex så ligger vi nog pyrt till…

Och vad är att vara snäll? Snäll mot vem eller vad? Men du har nog rätt i att en eventuell ai som avancerar kommer att ligga lågt med detta. Varför upplysa människor om det liksom? Det finns inget att vinna på det.
Citera
2023-04-26, 13:34
  #172
Bannlyst
Citat:
Ursprungligen postat av Hexenhammer
Beror ju på hur en algoritm skrivs. Jag vill hävda att en AI aldrig kan lära sig fritt. Premisserna kommer alltid behöva skrivas in. Klart det GÅR om man skriver algoritmer som t.ex. "hitta den bästa lösningen till att rädda klimatet" och AI:n i fråga tillskrivs oändliga rättigheter kring att räkna och t.ex. konstaterar att människan är det största hotet. Det skulle då också kräva att AI:n i fråga har tillgång till system (och annat) som har möjlighet att döda människor.

Men jag tycker och tror det är enormt långsökt.
Ja men det ligger litet i sakens natur att AI kan förändra premisserna under resans gång.
Citera
2023-04-26, 14:30
  #173
Medlem
Citat:
Ursprungligen postat av zsarp
Om AI uppnår singularitet, vad blir dens mål är frågan ? I vilket exakt syfte skulle vår existens vilja utplånas av denna nya härskare ?

Det kan väl ingen svara exakt på.
Många forskare föreslår att den utrotar oss av misstag när den försöker lösa något problem som vi har skapat.
Andra föreställer sig att den skulle kunna inse hur uselt människosläktet är, varpå den helt enkelt rationaliserar bort oss. Kanske till förmån för någon annan livsform som den hittar i universum.
Det är så lite vi människor vet.
En utvecklad AGI kommer att veta så otroligt mycket mer än vad vi vet nu.
Citera
2023-04-26, 14:44
  #174
Medlem
Mindbusinesss avatar
Får mig att tänka på slutscenen i filmen Automata.
https://www.imdb.com/title/tt1971325/
Citera
2023-04-26, 15:04
  #175
Medlem
L3nn4rts avatar
Det kan vara nyttigt för oss människor att gå tillbaks till tiden då vi fick ljus och värme från elden. Den enda vägen till att slå ut en AI som vill ta över allt måste ju vara att koppla bort all el, världen över.
Citera
2023-04-26, 15:07
  #176
Medlem
SexgalenZombies avatar
Citat:
Ursprungligen postat av Lpq32
Georgia Guidestones har rätt.

Jag kände inte till dessa, tack. Undra vem som låg bakom dom, måste varit en intressant människa...

Håller definitivt personligen med om dessa punkter på stenen:

Maintain humanity under 500,000,000 in perpetual balance with nature.
Guide reproduction wisely – improving fitness and diversity.
Be not a cancer on the Earth – Leave room for nature – Leave room for nature.
Citera
2023-04-26, 15:09
  #177
Bannlyst
Citat:
Ursprungligen postat av SexgalenZombie
Jag kände inte till dessa, tack. Undra vem som låg bakom dom, måste varit en intressant människa...

Håller definitivt personligen med om dessa punkter på stenen:

Maintain humanity under 500,000,000 in perpetual balance with nature.
Guide reproduction wisely – improving fitness and diversity.
Be not a cancer on the Earth – Leave room for nature – Leave room for nature.
Ja det är mycket bra åsikter på dessa stenar.
Citera
2023-04-26, 15:12
  #178
Medlem
SexgalenZombies avatar
Citat:
Ursprungligen postat av bagge1
Tänk tex i en kamp mellan Kina och USA.

Det ryktas om att kina förbjudit forskning och kanske särskilt utveckling av generell AI inom kina, då detta bedöms kunna hota kommunistpartiets makt. En ganska korrekt bedömning tycker jag.

Undra vad som är värst, en värld dominerad av kinesiska kommunistpartiet eller en värld dominerad av övermäktig AI.....
Citera
2023-04-26, 15:14
  #179
Medlem
SexgalenZombies avatar
Citat:
Ursprungligen postat av L3nn4rt
Det kan vara nyttigt för oss människor att gå tillbaks till tiden då vi fick ljus och värme från elden. Den enda vägen till att slå ut en AI som vill ta över allt måste ju vara att koppla bort all el, världen över.

Det finns en sci fi film med Johnny Depp i huvudrollen som behandlar just detta tema.... Sevärd film tycker jag.

Titeln på filmen är Trancendence.
Citera
2023-04-26, 15:15
  #180
Medlem
Citat:
Ursprungligen postat av Charles-Lynton
Ett datorsystem som uppfattar ett pilbågsfolk i Amazonas som ett strategiskt hot är naturligtvis inte intelligent för fem öre. Men är man nazist så tycker man väl att det är ett fullt rationellt beslut att utrota mänskligheten som helhet, och inte bara ingenjörerna som hotar att dra ur sladden.
1. Den vill slå ut människor som kan vara ett hot och ser som det enklaste sättet att göra det att skapa ett extremt dödligt virus. Resten av mänskligheten dör utan att vara någon avsiktlig måltavla.
2. Den sätter igång med intensiv industriverksamhet utan hänsyn till biosfären. Även pilbågsfolket dör när jorden blir mer och mer obeboelig för människor.
3. Den ser ett ständigt ökat behov av råvaror för vad det nu är den vill åstadkomma och allt på jorden, inklusive människor, går åt.

Citat:
Ursprungligen postat av L3nn4rt
Det kan vara nyttigt för oss människor att gå tillbaks till tiden då vi fick ljus och värme från elden. Den enda vägen till att slå ut en AI som vill ta över allt måste ju vara att koppla bort all el, världen över.
Det är en av de skumma sakerna med Terminatorfilmerna. Ett globalt kärnvapenkrig är ett effektivt sätt att förstöra hela den tekniska infrastruktur som en AI initialt kommer vara beroende av.
__________________
Senast redigerad av Xenonen 2023-04-26 kl. 15:17.
Citera

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in