Angående robotar människor och motivation

Ja, enligt belöningssystemet så är det kortsiktigt otroligt rätt att ta herion. Förnekar du att vi motiveras av vårt belöningssystem eller vart försöker du komma?

Jag hävdar att det visst finns motsvarigheter av njutning, smärta och instinkt inom AI.
Jag hävdar inte att belöningssystemet är perfekt.

Ja, den poängen missade jag absolut. Men i ärlighetens namn tror jag inte att någon hävdat något annat. Jag har aldrig sett någon hävda att:
1. Prefrontala cortex är nästan det enda man bör fokusera på
2. Att vi är helt rationella

Så jag antar att jag håller med om den här sista delen

Ok det är det enda jag hör om hela tiden i ai-diskussionen iaf. En övertro på det rent logiska kognitiva och en total förnekelse eller ointresse av våra djupare drifter. Eller rättare sagt framför allt att dessa två står frikopplade från varandra på något sätt.

Jag menar att vi inte bara inte är helt rationella utan långt långt långt bort från att ens vara i närheten av rationella. Däremot är vi väldigt duktiga på att rationalisera så att vi upplever oss själva som förnuftiga.

Just ja hade en poäng till ursäkta jag är virrig... Jag anser att det finns ett djupt etiskt problem.
Så här gissar jag att utvecklingen kommer att gå till: AI som deepmind och watson kommer att bli allt bättre och bättre och klå oss människor på allt fler områden. Det här tycker jag jättebra precis som AI ska vara, att hjälpa oss med saker och ting. Men jag tror att vissa eller många forskare kommer inte att vara nöjda med detta. De kommer att vilja ha en AI som VILL göra saker, som tar initiativ. Vi ser tecken på det hela tiden. Det finns massor av groteska projekt idag med robotar som försöker efterlikna människor, kosmetiskt kommunikativt och kognitivt, enligt mig den absolut sämsta och svåraste typen av robot att tillverka, speciellt med dagens primitiva teknik. Varför inte satsa på en robot som plockar blåbär eller rycker ogräs istället? Men det säger ju något om vår egen motivation. Inte så mycket att vi vill ha effektiva hjälpare utan att vi vill ha svar på frågor om medvetande.

Själv är jag mycket tveksam till att man kan få till ett medvetande hos AI (i alla fall inte under överskådlig tid) eftersom vi inte ens kan förklara det ännu men låt säga att man lyckas göra det genom att emulera vårat belönings/bestraffningssystem på något sätt mer eller mindre bara kopierar en mänsklig kropp till att börja med. Man kommer kort sagt att försöka installera dödsångest i robotar. När C3PO säger "nej nej snälla stäng inte av mig jag gör vad som helst" istället för "är det ok om jag stänger av mig?" så kommer man anse sig ha lyckats.