Terminator - Kan det inträffa?

rasko:


Jo rasko, en sak gör hjärnan som den inte är programerad till: den är medveten!

Eller invänder du kanske, och kan peka på var i hjärnan detta program ligger?

Och Roll8or, vad talar för att någon teknisk utveckling någonsin skulle kunna skapa, eller ens mäta, medvetenhet? Evolutionen har tydligen skapat medvetna hjärnor, fast det inte finns ett spår av evolutionistisk logik i skapandet av något så totalt överflödigt. För medvetenheten är ju totalt subjektiv och yttrar sig ju inte alls på något objektvt sätt öveerhuvudtaget. Alltså har medvetandet ingen som helst effekt på t.ex. en individs överlevnadsförmåga. Alltså bör medvetandet aldrig ha selekterats fram av evolutionen. Ändå är jag medveten... Vilken slump, och så otroligt osannolikt! Ja, så osannolikt är det, att rimligen evolutionen, och allt som sagts som eventuella objekt, är satt i fråga!

Man kan mycket väl konstruera en intelligent maskin, eller en överlevnadsmaskin, som totalt saknar varje tillstymmelse till medvetenhet. Varför skulle det vara "självklart" att industrialiseringen eller vetenskapen någonsin skulle kunna konstruera något som den totalt saknar objektiva koncept för, och förmåga att ens mäta??? Hur skulle någon kunna vetta när denna maskin har blivit medveten? Hur?

ingen har ju lyckats sätta fingret på vad som är medvetande, men det finns ju teorier, bla den om att vår hjärna skulle vara en sorts kvantdator, där exakt samma typ av fysisk representerad information skulle kunna finnas på två ställen samtidigt... (typ) detta skulle då skapa ett medvetande.

fast ja vet inte, om man skapade en AI som hade hela internet som drivsystem, skulle kunna se alla webkamror och tänka utifrån all information som finns på internet (skynet-modellen) då skulle det kanske kunna bli lite otäckt...

Man bör kanske skilja mellan:

1) Medvetenhet, som handlar om att uppleva subjektivt. Detta är ett mysterium som vetenskapen inte har lyckats relatera till överhuvudtaget (inte för att jag utesluter för att det en dag blir möjligt dock).

och

2) Överlevnadsdrift, som handlar om att maskinen hävdar sitt intresse, delvis i motsats till vårt intresse, av att överleva. Överlevnadsdrift finns hos mikroorganismer, människor och bananträd. Växtlighet är inte så hotfullt för oss, eftersom de inte kan göra så mycket. Virus kan dock utplåna oss. Överlevnadsmaskinen varg har vi tampats med historiskt, men övervunnit. Vi kan mycket väl skapa ett system som eftersträvar överlevnad och att detta kommer att stå i motsats till vårt intresse.

Varför skulle "maskinerna" ha en anledning att attackera/döda oss, borde de inte vara mer intresserade av vad vi har att erbjuda dem.

DE HAR INGEN ANLEDNING ATT GÖRA UPPROR.

Precis, men samtidigt kan du ju inte heller säga att ditt lilla gameboy inte har medventande? Finns det ens nån definition av medvetenda som gäller alla varelser och föremål? Har en hund medvetande? Har en fisk medvetande? Har en insekt medvetande? Har ett träd medvetande? Eller finns det kanske en kontinuerlig skala över hur medvetet ett föremål (varelse) är?
Nä, skit i om datorer nån gång kommer få nån form av artificiellt medvetande, kommer dom nån gång arbeta helt autonomt och utveckla sig själva finns inte mycket som skiljer datorer från oss...

Om någon eller något annat än en själv är medvetet, kan vi aldrig veta. Det ligger i subjektivitetens natur, att den inte är objektiv...

Påståendet att "X är medvetet" är inte ett bevisbart påstående.

Diskusssionen här blandar ihop "medvetande" med huruvida maskiner kan börja agera i egenintresse. Det tror jag de kan. Men det är nog längre dit än vi tror. AI har ju varit en stor besvikelse hittills.

Beror ju helt på hur man ser på det, datorer klarar ju av mycket som inte människor kan, sen är det ju en helt annan form av "intelligens" och går därför inte att jämföra med naturen. Det stora problemet med dagens datorer är att dom i princip är helt seriella, dvs dom tar en sak i taget. Detta är inte optimalt för att lösa problem i den verkliga världen. Hjärnan å andra sidan, är en rätt långsam massiv paralell enhet. Hjärnan kan därför klara många komplexa problem som en dator inte klarar men även vice versa...

Allt handlar egentligen bara om hur man definierar intelligens, medvetande osv, och säger inget om huruvida ett Terminator-scenario kan uppstå.

Äh, jag menar bara att man redan på 50-talet sa att "om fem år" så kommer datorn att vara smartare än människan. Jag vet inte vad AI kan göra idag som man inte kan åstadkomma med lite simpel regressionsanalys, såsom att styra på vilken våning en hiss bör vara givet vissa enkla mätdata såsom tidpunkt, inpasseringar och otåliga knapptryckningar...

Men det finns ju områden där AI gör nytta. Det är ju (nästan/ ibland /snart) möjligt med användbar tolkning av fotografiska data t.ex.! Jag hoppas, och tror att det är realistiskt, att AI under kommande årtionde faktiskt gör sin sena entré i människors liv. Kanske nästa stora grej efter internet? Men hittills så är det ju inte mycket bevänt med AI i praktiken.

Den dagen någon konstruerar en dator som begrundar sin egen existens, och sedan av egen fri vilja beslutar sig för att begå självmord för att den anser att dess liv är meningslöst, ska jag bli cykelreparatör och flytta till bortre Mongoliet.

De som man kommer skratta åt i framtiden är inte de som tror att inte datorer kommer bli intelligentare än människor. En dator skulle t.ex. aldrig kunna upptäcka nya koncept. Inse, en dator är en räknemaskin med minne. Allt den kan göra är i princip att addera tal med varandra och lagra dem. Lycka till med att få en dator att skriva vacker poesi, eller att få en dator att uppskatta ett musikaliskt verk, osv, osv. Nä, de man kommer skratta åt (eller mer troligt, sucka) är de som tror att människan är en maskin som enbart är ett resultat av slumpmässiga genetiska mutationer och naturligt urval. Bara genom att tro att man är en maskin har man redan bevisat att man inte är det.