Vad skulle krävas för att stoppa AI?

Katastrofen kom emellertid av allt att döma oväntat. En vacker dag strejkade teletotalen. Detta hade hänt någon enstaka gång tidigare, och ingen kunde ana annat än att det var en lokal störning som snart skulle vara reparerad. Efter en stund kom den mycket riktigt åter i funktion och meddelade att vissa störningar uppstått på flera olika platser. Därefter kom en serie förvirrade bilder och signaler, varefter den igen blev tyst. Folk började nu bli oroliga. Man började beställa varor, bl.a. maten för dagen, och då kom genast normal svarssignal, men inga varor anlände. Sedan kom teletotalen i funktion igen och meddelade att visa fel hade uppstått på systemet av laserstrålar som styrde farkosterna. Detta gjorde att varudistributionen blev fördröjd. Därefter tystnade teletotalen definitivt. Ljuset började blinka och slocknade slutligen. Den elektriska uppvärmningen av husen upphörde.
Störningarna tycks ha satt in ungefär samtidigt, kanske exakt samtidigt, över hela jorden. Det var uppenbarligen det internationella datanätet som gått ur funktion.

Människorna tycks ha reagerat ungefär likadant överallt. Först tog alla saken lugnt, man gick kanske till närmaste grannar och skämtade över missödet. Efter något dygn började alla bli hungriga och törstiga, och de som bodde i kallt klimat började frysa. Ingen mat, inget vatten, ingen värme, inga kommunikationer, ingen möjlighet att få reda på vad som hänt. All normal verksamhet var plötsligt lamslagen. Nu bröt skräcken och förtvivlan ut.

...

Katastrofen blev därför fruktansvärd. Inom mindre än ett år hade största delen av befolkningen omkommit av svält och umbäranden. I de tropiska områdena där man kunde livnära sig på frukter och andra naturens produkter, var det relativt många som överlevde. I de kalla regionerna var det mycket värre att uppehålla livet, särskilt under vintern. Bostäderna blev obeboeliga utan elektrisk uppvärmning. Det var nödvändigt att skaffa ved, men det var svårt att få tag på yxor, och de var inte många som kunde hantera dem. Museerna plundrades på yxor och andra redskap, och t.o.m. stenyxor från äldsta tider blev flitigt använda. De som haft trädgårdsodling till hobby, eller fiske och jakt, hade störst chans att överleva. Men åkerbruket var till stor del bortrationaliserat, därför att maten huvudsakligen tillverkades i fabrik, och det åkerbruk som fanns kvar var så mekaniserat att det inte fungerade när tillgången på drivmedel upphörde.

...

Det successiva uppbyggandet av ett maximalt effektivt fabrikations- och distributions-system över hela jorden hade lett till en hög grad av internationalisering och centralisering. Hela det ytterst komplicerade systemet styrdes av ett antal centrala dator, som mottog signaler från världens alla hörn, bearbetade informationen och sedan utsände dirigerande impulssekvenser. Ett så komplicerat system har en stor benägenhet att råka i självsvängning och bli labilt. Vi vet att ett stort arbete hade nedlagts på att undersöka stabiliteten, och att man kände sig övertygad om att den var under kontroll. Men sådana problem är teoretiskt sett mycket svåra.

...

De departement och ämbetsverk som skötte rationaliseringen blev allt större och mäktigare. Allt eftersom den ena gruppen efter den andra bortrationaliserades svällde rationaliseringsorganen. Detta var delvis en lyckad utveckling, dels därför att man undvek arbetslöshet men också därför att på det sättet rationaliseringen kunde drivas i ett allt snabbare tempo. Men när samtidigt datornas antal växte, fordrades allt fler servicemän för deras underhåll. Också antalet kodare som betjänade datorna måste ständigt växa.

Men det var just i den växande administrationen som faran låg. Vad skulle hända när alla andra grupper bortrationaliserats och det endast fanns organisatörer, kodare och servicemän kvar? De stora ämbetsverk som skött rationaliseringen hade till slut rationaliserat bort alla andra grupper. Man måste fortsätta att rationalisera, för endast därigenom motiverade man sin egen existens. Men det enda som dessa ämbetsverk hade kvar att rationalisera bort var varandra – eller sig själva.
...
Parkinson hade gjort en djupgående teoretisk studie av hur departement, ämbetsverk och liknande organisationer växte. Han visade att ett verks officiella uppgifter i regel var av underordnad betydelse för verket. Det viktiga målet var att verket växte, därför att detta medförde ökad befordringsmöjligheter för dem som arbetade där. Ju mindre de verkliga uppgifterna var, desto större arbete kunde läggas ned på utvidgningen och desto fortare växte organisationen. Parkinson stödde sin teori med ett överväldigande empiriskt material.

Parkinsons lag accepterades allmänt som förklaring till mycket av utvecklingen vid den tid när den uppställdes, och den har också visat sig kunna förklara mycket av de senare händelserna. Endast de professionella sociologerna och administratörerna vägrade att ta den på allvar. Detta berodde dels på att Parkinson framställt sin teori på ett spirituellt och intelligent sätt och sådant retar alltid folk. Men dels berodde det på att han avslöjade och utmanade de administratörer och byråkrater, som alltmer styrde samhället. Ingen hänsyn togs till Parkinsons lag vid planeringen av samhällsutvecklingen.
Men detta hindrade inte lagen från att verka, ja den styrde hela utvecklingen. Denna blev därför allt mer inriktad på att de olika departementen och ämbetsverken skulle växa. Så länge deras tillväxt kunde fortgå på invant sätt gick allt i gamla gängor. Men om antalet byråkrater i ett samhälle ständigt växer, måste denna process med matematisk visshet stoppa när alla samhällets medlemmar blivit byråkrater. En samhällsordning som förutsätter en ständigt ökad byråkratisering måste därför med naturnödvändighet bryta samman förr eller senare. Det är på denna väg många vill söka de djupare orsakerna till katastrofen. Denna teori har fått många anhängare, som kallar samhällets sammanbrott för ”den byråkratiska katastrofen”.