150 år före ChatGPT: Samuel Butlers profetia om hur AI kommer göra oss till slavar

»Vi har ingen garanti», för att citera hans egna ord, »mot att det slutligen utvecklas ett mekaniskt medvetande, därför att maskinerna inte har mycket medvetande nu. En mollusk har inte mycket medvetande. Betänk de oerhörda framsteg som maskinerna har gjort under de senaste århundradena och märk hur långsamt djurriket och växtriket går framåt. De mera högt organiserade maskinerna är inte gårdagens barn utan snarare de sista fem minuternas så att säga om man jämför med gångna tider. Antag för resonemangets skull att det har funnits medvetna varelser i bortåt tjugo miljoner år: märk med vilka stormsteg maskinerna gått framåt under de senaste tusen åren! Kan inte världen vara i tjugo miljoner år till? Om så är fallet, vad kommer det inte att bli av dem till slut? Är det inte säkrare att kväva otinget i dess linda och förbjuda att det vidareutvecklas?

...

»Man kan svara att även om maskinerna skulle höra aldrig så bra och tala aldrig så klokt, så skulle de fortfarande alltid göra det för vårt bästa, inte för sitt eget, att människan kommer att vara den drivande kraften och maskinen tjänaren, att så snart en maskin underlåter att utföra det arbete som människan väntar sig av den, är den dömd att försvinna, att maskinerna helt enkelt står i samma förhållande till människan som de lägre djuren — ångmaskinen själv är ju bara en mer ekonomisk sorts häst — så att de visst inte kan tänkas utvecklas till en högre livsform än människans utan i stället har sin förmåga att utföra mänskliga önskemål att tacka för att de över huvud taget finns till och följaktligen både nu och i all framtid måste vara underlägsna människorna.
Detta är nog gott och väl. Men tjänaren glider omärkligt över till att bli herre, och vi har kommit in ett sådant läge att människan redan nu måste lida förfärligt, om hon inte längre hade maskiner till hjälp. Om alla maskiner skulle förstöras på en gång, så att inte en kniv och inte en klädtrasa lämnades kvar åt människorna utan bara den nakna kropp de föddes med, och om all mekanisk kunskap fråntogs dem, så att de inte kunde göra några nya maskiner, och all fabrikstillverkad mat förstördes, så att människorna lämnades så att säga nakna på en öde ö, så skulle vi förgås på sex veckor.

...

Från en låg, materialistisk synpunkt sett verkar det visserligen nästan som om de har mest framgång som använder maskiner överallt där det är ekonomiskt möjligt att använda dem, men det är det listiga med maskinerna — de tjänar för att de skall få härska. De hyser inget agg mot människorna för att dessa förstör ett helt släkte av dem, så länge de bara skapar ett bättre i stället, tvärtom belönar de oss rikligen för att vi påskyndat deras utveckling. Det är genom att vanvårda dem som vi upptänder deras vrede eller genom att använda dåliga maskiner eller genom att inte anstränga oss tillräckligt för att uppfinna nya eller genom att förstöra dem utan att ersätta dem, och ändå är det just det vi borde göra och det fort, ty fast vårt uppror mot deras spirande välde kommer att förorsaka omätligt lidande, vad kommer inte att inträffa om det upproret uppskjuts?

...

Människorna tror för närvarande att deras intressen ligger i den riktningen, de använder oändliga mängder av tid och arbete och tankar på att få maskinerna att fortplanta sig allt bättre, de har redan lyckats åstadkomma mycket som en gång verkade otroligt, och det tycks inte finnas några gränser för resultaten av de samlade förbättringarna, om de får nedärvas med modifieringar av generation efter generation. Vi måste alltid komma ihåg att människokroppen är vad den är genom att ha utformats till sin nuvarande skapnad av miljoner års öden och skiftningar, men att människans organism aldrig utvecklats tillnärmelsevis så snabbt som maskinernas gör. Detta är det mest skrämmande i fallet, och jag måste bli ursäktad för att jag påpekar det så ofta.»

...

Om ovanstående är riktigt, blir följden att maskinernas regelbundna handlande inte är något bevis på att de saknar livskraft eller åtminstone anlag som kan utvecklas till en ny livsform. Vid första åsynen ser det visserligen ut som om ett lokomotiv inte kan låta bli att gå, när det placeras på ett spår med ångan uppe och maskinen i full gång, medan mannen som har till uppgift att köra det kan låta bli att göra det närhelst han har lust, och att följaktligen loket inte har någon egen drift och fullständigt saknar all fri vilja medan mannen har bådadera. Detta stämmer till en viss grad, föraren kan stoppa loket, när han har lust, men han kan bara ha lust att göra det vid vissa platser, som andra har bestämt för honom, eller vid oförutsedda hinder, som tvingar honom att ha lust att göra det.
Hans lust är inte spontan, han är omgiven av en osynlig kör av inflytanden, som gör det omöjligt för honom att handla på mer än ett sätt. Man vet på förhand hur mycket eftertryck som måste ges åt dessa inflytanden, precis som man vet på förhand hur mycket kol och vatten som behövs för lokomotivet, och underligt nog finner vi att det inflytande som utövas på föraren är av samma slag som det som påverkar loket — det vill säga mat och värme. Föraren lyder sina överordnade, därför att han får mat och värme från dem, och om dessa saker undanhålls eller om han inte får tillräckligt mycket, slutar han att köra. På samma sätt slutar lokomotivet att gå, om det får otillräckligt med mat. Den enda skillnaden är att mannen är medveten om sina behov och loket (frånsett att det vägrar att arbeta) inte tycks vara det. Men detta är temporärt och har avhandlats tidigare.

...

Vanans makt är oerhörd, och så långsamt kommer förändringen att ske att människans känsla för vad som rätteligen tillkommer henne aldrig kommer att bli allvarligt skakad, vårt slaveri kommer att smyga sig på oss ljudlöst och i omärkliga etapper, och det kommer inte heller att uppstå en sådan intressemotsättning mellan människorna och maskinerna att det leder till strid mellan dem. Inbördes kommer maskinerna att föra ett evigt krig, men de kommer fortfarande att behöva människan som den genom vars förmedling kampen huvudsakligen förs. I själva verket finns det ingen anledning att oroa sig för människornas framtida lycka, så länge de fortsätter att på något sätt vara maskinerna till nytta. De blir kanske en underlägsen ras, men de kommer att ha det långt bättre än nu. Är det då inte både löjligt och orimligt att vara avundsjuk på våra välgörare? Och skulle vi inte göra oss skyldiga till fullständig dårskap, om vi förkastade fördelar som vi annars inte skulle kunna få, bara därför att de medför större fördelar för andra än för oss själva?

Med dem som kan resonera på det viset har jag inget gemensamt. Jag ryggar med lika stor fasa tillbaka från tanken att min ras någonsin kommer att bli undanträngd eller överträffad som jag skulle göra från tanken att mina förfäder ens i den avlägsnaste forntiden var något annat än mänskliga varelser. Om jag kunde tro att för tiohundratusen år sedan en enda av mina förfäder var en annan sorts varelse än jag, skulle jag förlora all självrespekt och inte längre njuta av livet eller ha något intresse för det. Jag har samma känsla, när det gäller mina avkomlingar, och tror att den kommer att delas så allmänt att landet beslutar att omedelbart stoppa all vidare mekanisk utveckling och att förstöra alla förbättringar som gjorts under de senaste trehundra åren. Jag skall inte yrka på mer än det. Vi kan nog förlita oss på att vi kan klara av dem som blir kvar, och fast jag skulle ha föredragit att se att förstörelsen innefattade ytterligare tvåhundra år, så är jag medveten om att en kompromiss är nödvändig och är villig att offra min egen övertygelse ända därhän att jag nöjer mig med trehundra. Mindre än så skulle inte vara tillräckligt.»