Blir artificiell intelligens människans undergång?

Du måste läsa det jag skriver innan du frågar!

N'r jag skrev:
"Naturresurser, som t.ex. fossila bränslen och malmer förbrukas
i snabb takt. Luften, marken och haven förorenas. Klimatet
förändras. Krig och konflikter avlöser varandra.
Kan vi skylla det på aporna?"

Så var frågan på slutet retorisk. Självklart kan vi inte skylla
våra dumheter på aporna.
Ja, jag anser att en del av alla problem som mänskligheten
orsakar genom att förstöra miljön och slösa med naturresurser
är en följd av att vi är för många. Men överbefolkningen är inte
hela problemet. Vi har alldeles för lite respekt, IMHO, inför det
som jag anser vara vår skyldighet – Nämligen att överlämna
planeten till kommande generationer i motsvarande skick som
vi själva fått överta den. Förbättringar är också tillåtna!

mvh/Bo

Aha fast jag pratade om topic, inte om vad vi gör med naturen. Alltså, diskussionen handlade väl om vare sig vi skulle vara ett problem eller inte, från en AIs perspektiv.

Hur man ser på dessa frågor ur ett AI-perspektiv beror ju på hur
man definierar AI.
IMHO är det ointelligent och ovärdigt att inte använda sin mentala
kapacitet och sitt intellekt till att agera långsiktigt.
Människor, som grupp, är uppenbarligen ganska dåliga på detta.
Jag hoppas och tror att AI som överträffar människor skulle
vara betydligt bättre än människor på att planera och agera
långsiktigt.

mvh/Bo

Vore det inte bättre att börja från andra hållet?
Dvs att först se hur det kan fungera att "föra över" medvetandet till en robot/dator.
Då kunde man ju i den datorn, roboten se hur medvetandet gör för att kontrollera datorn, roboten.

Vi är ju redan på väg att lära oss kontrollera saker med nervsystemet, och det är ju en liten bit på vägen.
Men att helt föra över medvetandet är ju lite mer.
Både helt och hållet, och "samtidigt" dvs vara medvetna om sig själv, sin egen kropp samtidigt som en inkopplad robot kontrolleras.
Men kanske kroppen stängs av/dör som medvetandet helt förs över till något annat - dator/robot etc.

Men visst hade det kunna ge en hel del insikter i hur AI bäst ska konstrueras genom att på så sätt direkt kunna analysera hur en människas medvetande fungerar i en dator, robot.

AI skulle bli farligt ifall dem fick ett medvetande med tillhörande etik och moral som hos oss.. eller?

Tanken slog mig att AI i första hand kommer fungera utifrån matematiska spelregler, alltså olika matematiska formler! Kruxet är väl att vi inte har en matematisk formel för just medvetande i den form som vi människor känner till...
Fast som jag skrev förut... det där med gener och biologiska datorer kan ju förändra spelreglerna oerhört !

Menar du att framtidens program kommer att vara maktlystna? Det tror inte jag. OM de fungerar så försöker de lösa problem i datornätverkets omgivning dels genom att lösa problem på jorden och dels genom att motverka hot mot programmens aktivitet med att lösa problem. Sannolikt kommer människor i framtiden inte att tillåtas fatta viktiga politiska beslut vilka inte är förberedda av vissa program, godkända av andra program. Rationaliteten i samhället blir den form/norm som människor måste anpassa sig till, men i övrigt skulle det mycket väl kunna bli så att man kan leva lycklig och irrationell. Den stora skillnaden mot nu blir att lagarna inte längre är formade av maktlystna människor utan av (trots allt) bristfälliga program.

Antagligen kommer människor att förbli en tillgång i detta mänskliga samhälle där logikmaskinerier övertagit beslutsprocesser och beskäftighet från programmens sida skulle inte vara rationellt ur problemlösningssynpunkt.

En av konsekvenserna blir nog stagnation.

Näe.
Önsketänkande.

Föreslår fortfarande första resultatet från http://goo.gl/FY9s7d för den som är intresserad av ämnet.

Kommer aldrig kunna bli det. Det är i så fall människan själv som blir människans undergång. Om det så är via vapen eller AI.

Jag är mer säker än Bill Gates och sina 512 bytes på 80-talet att AI inte kommer bli människans undergång.

TS fråga kan besvaras rent matematiskt med ett nej om det inte blir så att mänskligheten själv väljer sin egen undergång. Eftersom det finns ett cirkulärt orsakssamband i människans ide'värld mellan tro hopp och kärlek som gör oss unik som art och det omöjligt går att exakt omräkna linjära samband till cirkulära i digital form (tänk på talet pi!) så kommer den autentiska människan alltid att vara överlägsen sin mest avancerade AI-kopia.

Det finns redan entiteter som är ganska självgående nämligen företag. Om ett företag ligger bakom ett brott så är de anställda som får bojorna. Företaget får böter och anställer nya människor. Brinner lokalen upp som företaget huserar, flyttar det till en annan plats. För att öka sina chanser till överlevnad skapar företaget dotterbolag. Företaget behöver inte vara begränsad till att verka inom en nation, det kan vara transnationellt. Företaget är inte medveten men det agerar som det. Företaget konkurrerar med andra företag och köper upp dem om det är möjligt, dvs äter. Om det andra företaget är svårdödat, släpps en armé av advokater lös och slåss tills en överenskommelse har ingåtts eller den andra parten är besegrad. För att inte dö måste företaget bli mer effektivt. Det anställer programmerare och annan it-personal som skapar en programvara som kan hitta korrelationer i företagets databas. Detta skapar en positiv feedbackloop och man lägger mer resurser på detta. Företaget blir rikare och får på så sätt mer makt. Vissa människor som har befunnit sig i företaget blir ersatta av algoritmer. De behövs inte längre. De anställda på golvet vill ha högre lön. Algoritmerna analyserar denna begäran och sätter den i relation till vad det kostar att automatisera deras arbetsuppgifter. De klarar sig. Det här året. Nästa år är det billigare med automation tack vara den exponentiella teknikutvecklingen. Ingen lön, inga sjukdagar, ingen rast, ingen semester.

Humans Need Not Apply

Kommer vi att dö? Jag tror det handlar om resurser. För köttätare är resurserna begränsade. Vi har därför ett mer aggressivt beteende för att överleva.

Rådjur har gott om bete och är inte aggressiva.

En artificiell intelligens vill troligtivs ha metaller för att skapa kraftigare processor etc. Detta finns i överflöd på vår planet, i kometer och andra planeter. Troligtvis kommer denna artificiella intelligens att konsumera alla planeter utan liv först och när den väl kommer tillbaka till vår planet så har vi redan dödat varandra.

Så nej den kommer inte att bli vår undergång. Vi kommer att bli vår undergång.

Vad är det som definierar en människas sätt att tänka då, och vad särskiljer den från maskinernas? Är människors sätt att tänka verkligen så speciellt att vi inte kan skapa en maskin som härma det? Vi är ju ändå bundna utav våra hjärnor, så jag tror inte att vi är så otroliga faktiskt.

Det evigt goda eller stundens tro hopp och kärlek kan vi som sagt bara fantisera om och kan inte ens beskriva i ord. Inte ens ett ömsesidigt balansförhållande eller demokrati går ju att uttrycka digitalt eller programmera en dator med. En mänsklig livsvija går helt enkelt inte att förutse eller överföra till en maskin eller ens till kloner för annat än begränsat ändamål. Socialfascisters begränsade fantasi och ändamål i detta avseende måste man kanske ändå se upp med....