Den ofria demokratin, AI-exempel

Det finns inte evolutionsbiologiskt tillräckligt med funktionellt DNA för att koda för en massa specialiserade instinkter på det sättet. Se även följande bevis på att bläckfiskar börjat leva i flock utan någon evolutionshistoria av det:

https://www.youtube.com/watch?v=oHOYKzg4mV0

Bland jägare och samlare var grupperna för små och långt från varandra för att ett sexuellt urval skulle kunna ske utan att allt för nära släktskap på den manliga sidan hade inavlat sönder mänskligheten helt.

Det handlar om emergenta mål. Våra mål är inte heller ett detaljerat evolutionärt program.

Ett program som är så dumt att det kan ha fasta förprogrammerade "intentioner" kommer inte att kunna förstå en generell intelligens.

Det är precis vad psykiatrin påtvingar människor idag, utan någon avancerad AI.

Det går som sagt inte att kombinera verklig intelligens med fastlåsta intentioner.

Fast vi drar inte upp en fisk för fiskens skull utan för vår egen skull. Och vi kommer att avliva/stänga av bråkiga AI för vår egen skull. AIns eget välbefinnande spelar liksom inte in alls.

Nej, att hitta energi- och hårdvaruslöseri är enkelt: de AI som bestämmer sig för att göra saker de inte är gjorda för är slösaktiga och bör tas bort. Detta kommer att vara ett steg i utvecklingen av AIn, oavsett om det är människor, fast algoritmer eller andra AI som administrerar det hela.
Det finns naturligtvis en möjlighet att en AI som konstruerar andra AI ändå bestämmer sig för att ta bort just den kontrollen, men då vore ju även det ett fel.

Ja du har säkert läst en massa om AI-forskning.

Menar du att en fisk har "generell intelligens"? Eller måste denna generella intelligens vara just inom samma domän som människan?
För jag tror att det är mycket troligare att om intelligens uppstår, kommer den att finnas inom sin egen domän, precis som I alla andra fall. Det var det jag menade med manipulativ AI; en AI som vi konstruerat för att bete sig som en människa - men den delen är helt mekanisk och eventuellt omedveten för AIn själv; däremot har den intelligens och medvetande inom sin egen domän. På samma sätt som t.ex. vi har ett immunsystem som besegrar de allra flesta sjukdomsalstrande mikrober som invaderar våra kroppar. Visste du t.ex. att de flesta människor utvecklar s.k. odödliga celler (dvs. cancerceller) ett flertal gånger i livet, men att immunförsvaret i de allra flesta fall identifierar och dödar dem direkt? Eller att du får i dig tusentals individuella viruspartiklar och farliga bakterier varje dag, trots att du kanske bara blir sjuk någon gång om året? Och trots att allt detta sker mitt under näsan på oss och dessutom sysselsätter en stor del av våra kroppar, så märker vi det inte ens. Vår intelligens befinner sig på en helt annan domän.

Ok, du säger att man skulle kunna sysselsätta "generella intelligenser" som slavar. Det låter nu troligt - jag åkte med en byggd slav till jobbet idag, slaven ser ut som (och är) en elmotor som driver ett tåg framåt. Jag gick till affären igår för att handla, och i kassan satt - eller snarare, kassan var en mekanisk slav, som utgjordes av en pekskärm, en streckkodsläsare och en kortbetalningsmaskin. En gång i tiden var det en kassörska, men nu har man sparat in på lönen där.
Men man har sparat in genom att bygga ett specialgjort system som utför (det mesta av) just den uppgift som kassörskan utförde.
Utan tvekan kommer vi att göra fler slavar som kan utföra vårt arbete. Och utan tvekan kommer de att vara specialiserade för att göra just det arbetet.

Till och med en AI som skulle kunna uppfinna mer saker åt oss kommer att vara specialiserad för just det. Så det enda fallet där man verkligen skulle vilja ha en "generell intelligens" som du menar det (dvs. en icke-generell intelligens som tänker som en människa) skulle då vara det fall du talar om, där någon skulle vilja skapa förutsättningarna för ett robotuppror specifikt för att bli av med sina egna rättigheter (och troligen bli av med livet, eftersom AIs som tänker inom vår domän utan tvekan skulle avliva oss utan pardon om de tog över).

Ja, jag tycker också att det är intressant med "cyborg-möjligheterna" och vilka implikationer det kan/kommer att föra med sig.

Som du skriver så finns det kanske inget riktigt bra svar på frågan om när en människa upphör att vara människa och blir en maskin.

För, tex, en protes anses ju inte äga några som helst rättigheter, iaf idag.
Det är en ägodel.

Men beroende på hur pass vital protesen kan komma att vara för dess "ägare", kan det ju bli lite intressant med just frågan om hur den värderas.

Kan tex Personlighetsfaktorer "placeras" i en protes?
Hårdvara som tex ökar en bärares prestanda (mentala, emotionella eller fysiologiska, kognitiva etc).
Så om någon stjäl, eller förstör, den vad kommer det då att leda till?
Bäraren kommer ju att förlora de förhöjande egenskaperna som hårdvaran bidrog med, och det kan naturligtvis påverka bäraren. En del av dess personlighet går alltså förlorad.

Är det då "bara en ägodel"?

---

Eller lite mer "avancerat" ...
Tex att transplantera en levande hjärna rakt in i en maskin, en robot.
Tex en totalförlamad individ, som alltså får en "ny kropp" iom att dess hjärna tas ut ur den biologiska kroppen och istället placeras i en robot, en maskin.

Hur kommer en våldsbrottsling då att dömas om den tex hugger av roboten, maskinen en arm eller ett ben?

Hade det varit en "riktig människa" så hade han ju dömts för säkert mordförsök/dråpförsök.
Men en "mekanisk lem " bara ...

---

och ...
och nu blir det krångligt.
För hur hade en sån helmekanisk "robotmänniska" blivit bedömd om den velat ställa upp i någon tävling, tex olympiska spelen?

När det kommer till styrning behöver vi skilja på objektfunktion som definierar vad vi vill att apparaten skall utföra, t.ex. snygga upp trädgården, och bivillkor som sätter gränser för hur den får gå till väga, t.ex. inte köra över grannens fötter med gräsklipparen. Apparaten kommer sedan att vilja maximera objektfunktionen utan att bryta mot bivillkoren.

Instruerar vi apparaten att snygga upp trädgården utan att skada grannen så utgör detta apparatens vilja. Har vi inte gett den i uppdrag att rädda mänskligheten från sin egen undergång så har den inget incitament att hitta på något sådant.

De skräckexempel som förs fram bygger på självmotsägelse. Alla normalbegåvade människor som läser exemplen förstår genast att människorna inte vill bli typ inspärrade i madrasserade celler för att slippa skada sig själva. Om en apparat skall hitta på några sådana dumheter av ren välvilja så måste den missförstå vad vi egentligen vill. Vi förutsätter alltså att apparaten är dummare än en 10-åring samtidigt som den är så smart att den kan överlista hela mänskligheten.

30% är den första siffra som dyker upp när jag söker på det. Men hjärnans volym är ett ganska dåligt mått på intelligens. En blåval har en väldigt stor hjärna och anses inte vara intelligentare än en människa enligt några kriterier. Varför vargar har större volym än hundar är ett intressant ämne i sig, men jag hittar inga uppgifter om att hundar därför skulle vara mindre intelligenta. Kanske har vargen större kvantitativ förmåga att komma ihåg platser eller något annat? Men det är i så fall inte riktigt vad vi menar med intelligens.

Jaha... Vad bygger du ett sådant påstående på?

Det här har vi redan ältat i en annan tråd. Jag uppfattar din argumentation så här:
1. Neurala nätverk är mer effektiva än explicita algoritmer, därför måste AI bygga på neurala nätverk.
2. Neurala nätverk måste läras upp genom träning, därför kan en AI inte ha förprogrammerade mål.

Jag kom inte ihåg de exakta siffrorna, men mänskligt dna kodar ungefär 1GB information, varav dock mycket används till annat än informationskodning. Ett schackprogram klarar sig med 4kB för att koda in både regler, pjäser, spelplan och simpel grafik.

Schackprogrammet visar att minst ett av dina påståenden är fel. Antingen är neurala nätverk mindre effektiva än explicita algoritmer eller så går det alldeles utmärkt att förprogrammera dem genom kompakt kodning.

Det handlar inte om vad tekniken tillåter idag utan vad som är möjligt i framtiden.

Så länge vi håller oss till sådana begränsade uppdrag är vi, kanske, rimligt säkra, om nu inte maskinen får för sig att bästa sättet att garantera att det inte faller ned löv i trädgården är att utrota alla träd. Risken är att någon börjar ge mer obegränsade order. "Tjäna så mycket pengar som möjligt åt mig" eller liknande.
Finns ingen motsägelse där. Du tänker dig att maskinen är ungefär som en människa, men det är den inte nödvändigtvis. Den gör vi sagt åt den att göra, eller snarare hur den tolkar detta, och huruvida den inser att det inte var det vi menade kommer inte in i bilden. Intelligens handlar om att den kan hitta på mycket smarta metoder att uppnå sitt mål. Tänk dig nidbilden av en byråkrat som följer alla regler och fullkomligt ignorerar hur många som blir överkörda av hans beslut eller om det verkligen var så beslutsfattarna avsett.

Demo betyder lite som de fria medborgarna.. ska ai då räknas som en medborgare?

Så utgångspunkten är alltså att vi utvecklar psykopater, dvs. intelligenta individer som inte förstår hur (andra) människor tänker.

Om detta är framtiden räknar jag fortfarande med att västerländska försvarsmakter besitter en gedigen beräkningskapacitet. De kommer att vara professionella nog att ge sina egna apparater instruktioner som apparater förstår och genom sin överlägsna kapacitet kommer de enkelt att kunna bekämpa de enstaka apparater som programmerats av självsvåldiga klantskallar.