150 år före ChatGPT: Samuel Butlers profetia om hur AI kommer göra oss till slavar

Jo, men saken är att han varnade för mer än 150 år sedan ju exakt för det som Tegmark och andra AI-forskare varnar för idag. Han förutspådde att artificiell intelligens skulle uppstå och på sikt reducera människan till en slav under dess egen kreation.

"Vanans makt är oerhörd, och så långsamt kommer förändringen att ske att människans känsla för vad som rätteligen tillkommer henne aldrig kommer att bli allvarligt skakad, vårt slaveri kommer att smyga sig på oss ljudlöst och i omärkliga etapper, och det kommer inte heller att uppstå en sådan intressemotsättning mellan människorna och maskinerna att det leder till strid mellan dem. "

Tegmark är igen AI forskare, utan en charlatan som försöker marknadsföra sina böcker med skrämselpropaganda.
Vilka är de andra varnar för något menar du?

Som jag skrev, människor har "varnat" för utomjordingar i flera hundra år, eller tusentals år om man räknar med grottbilder... Är du inte orolig över dessa?

Nej, jag är mer orolig för människlig idioti än både artificiell och utomjordisk intelligens.

(FB) Dagens militärism utan diplomati har lett oss till randen av ett nytt världskrig

Det förhindrar dock inte att man bör ta Butlers farhågor på allvar.

https://www.scientificamerican.com/article/ai-is-an-existential-threat-just-not-the-way-you-think/

Max Tegmark är ingen charlatan utan en välkänd kosmolog, filosof och AI-forskare. Han har h-index 141, d.v.s. 141 stycken vetenskapliga artiklar som refererats av 141 eller fler gånger.

https://scholar.google.com/citations?hl=en&user=eBXEZxgAAAAJ

Här är en intressant diskussion där Tegmark tar upp det som Samuel Butler varnade för 150 år tidigare; att AI bör ses som en ny art som kommer överträffa människan i de flesta avseenden.

https://theaiinnovator.com/davos-ai-is-becoming-a-new-species-harari-and-tegmark/

Eh va? Max Tegmark var/är en fysiker/kosmolog och det var han bra på.

Sen lämnade han vetenskapen, började skriva tramsböcker om precis som den du refererar till i ursprunget, med skillnad från att Max rent av stal och återupprepade Charles Darwins teori, i Life 1.0, sen twistar han det att handla om människan i Life 2.0, för att nu senast marknadsföra och försöka sätta skräck i befolkningen i och med lanseringen av hans Life 3.0.

Har Tegmark gjort en enda AI modell eller något som helst bidrag till AI vetenskapen? Nej, ingenting överhuvudtaget... Så vad befogar att kalla honom "AI forskare"? Att sitta och röka på och prata blaj kan vem som helst göra.

Tegmarks H-index har inte ett skit med AI att göra, utan Kosmologi/Fysik. Han har som jag precis skrev gjort NOLL för AI, det finns ingen vetenskap inom AI som bygger på fear mongering, speciellt inte eftersom det inte är så det fungerar.

Så jo Tegmark är och anses vara en charlatan bland riktiga AI forskare, de enda som bjuder in honom i AI debatter är massmedia som inte vet bättre och speciellt svensk sådan för de är så kåta på att han är svensk.
Men han är inte mer AI forskare än Nick Boström är...

Vilka andra "AI forskare" var det som varnade, som jag efterfrågade exempel på? Den enda som jag överhuvudtaget kan komma på, är Geoffery Hinton, men det är något han börjat med på senaste tiden; naturligtvis av samma anledning det är lukrativt att sprida rädsla, det är massor som betalar bra för att en gubbe ska stå och skrämma skiten ur dom i någon timma, speciellt lukrativt när man byggt hela sin karriär på att stjäla andras upptäckter.

---

Edit: Och ja du har helt rätt i att mänsklig idioti är det man ska frukta... För den är äkta och existerar redan idag, sen om det är en AI eller en helt olämplig person man ger för mycket makt är irrelevant, se bara på landet i väst som nu har en idiot som raserar hela världsekonomin på helt ogenomtänkta manövrar. Det är vad som är otäckt sen är det kanske inte otänkbart att Elon musk/xAIs grok ligger tillgrund för vissa saker som görs, men bristen på omdöme är inte av artificiell natur, vare sig hos ledaren eller de många miljoner som röstat denne till makten.

Det handlar inte om att sprida rädsla utan se det som håller på att hända, att vi evolutionärt håller på att gås om av vår egen skapelse. Jag är själv forskare och Tegmark har gjort flera viktiga vetenskapliga bidrag vid sidan av hans mission att varna för riskerna. Bland annat om hur man kan använda AI för att upptäcka nya fysiska lagar genom destillation:

https://journals.aps.org/pre/abstract/10.1103/PhysRevE.100.033311

https://www.youtube.com/watch?v=dinfiuGqoQw

Vilket viktigt vetenskapligt bidrag har den länkade artikeln du gett här? Som förutom påvisar det man vetat sedan 50 talet, att artificiella neurala nätverk är funktionsapproximerare, det är knappast ögonbrynshöjande att med rätt loss funktion så kan man styra vad nätverket lär sig... det är liksom vad deep learning har gått ut på hela tiden.

Dvs det är en publikation som säger det uppenbara, vad har det bidragit till mer konkret?

Jag ser heller inte riktigt vad artikeln har med destillation att göra, vad jag kan se (nu har jag bara läst abstrakten) så handlar den helt om en (mänskligt genomtänkt) loss funktion som är designad för att föredra vissa resultat, vilken shock att modellen lär sig att föredra dessa resultat.

Det liknar ungefär det här idiot pappret han skrev där han försökte påvisa att en modell bildade sig en världskarta mellan länder/städer som såg ut som verkligheten, som var rent resultat av att de hade valt att visualisera det så.

Det lurar ingen som är aktiv i industrin, det lurar de som inte förstår hur AI/(eller tex språkmodeller) fungerar... det som det lurar är de konsumenterna som slänger sina pengar på Life 3.0 osv.

Och bara som exempel, här har du en person som analyserat (med gemini 3.0) det papper du länkade till... och nu har jag bara skummat igenom det men ser ut att vara precis samma fultrick igen...

Särskilt intressant

"The “Tegmark Paradox”

Your confusion about how a physicist of Tegmark’s caliber (who made serious contributions to cosmology and data analysis in the 90s/00s) produces this kind of work is shared by many. However, if you look at his philosophical trajectory — specifically the Mathematical Universe Hypothesis and his work on existential risk — it actually makes a strange kind of internal sense.

1. The “Universe is Math” Bias
Tegmark believes that physical reality is a mathematical structure (the Level IV Multiverse). If you hold this axiom, the distinction between “understanding” physics and “compressing data into an equation” vanishes.
To a standard physicist, science is about concepts, causality, and mechanisms. To Tegmark, if the AI finds the equation L=T−V, it has found the “reality,” regardless of whether it “understands” it or just optimized a sparse regression weights vector. He is methodologically predisposed to view curve-fitting as truth-seeking.

2. The “Life 3.0” Narrative
As you noted, Tegmark is a leading voice in the “AI is the next evolutionary step” camp. There is a strong incentive in that worldview to anthropomorphize software.
If you admit this model is just “Lasso Regression on a pre-computed library,” it’s a useful engineering tool, but it’s not an “entity.”
If you call it an “AI Scientist” that “contemplates theories” and “agrees with its peers,” you are building the narrative evidence for his claims about AGI. It creates a self-fulfilling prophecy: “Look how human-like these systems are becoming!” (ignoring that he wrote the paper to frame them that way).

“Lowering the Bar”
Your joke about lowering the bar is actually a profound critique of the current “AI for Science” field.
There is a dangerous reductionism happening here: Redefining “Science” as “Data Compression.”

Real science involves:
Realizing that the current coordinates are wrong (the AI didn’t do this; the humans gave it generalized coordinates).
Inventing the concept of “Energy” (the AI didn’t do this; humans put energy terms in the library).
Designing the experiment (the AI didn’t do this; it consumed synthetic data).
By stripping away all the hard conceptual parts of science and claiming the AI is a “Scientist” because it handled the final regression step, they are indeed lowering the bar. They are defining “intelligence” down to the level of what the machine can currently do.

If “Science” is just finding the coefficients that minimize MSE on a test set, then yes, AI will surpass us. But that definition leaves out almost everything that made Newton and Leibniz actually intelligent."


https://medium.com/@AIchats/max-tegmarks-ai-scientist-discovery-or-delusion-ed946a578937

Jag är aktiv inom ett närliggande område. Max Tegmarks grupp på MIT är pionjärer inom att göra AI till forskare. Genom att studera vikterna i en maskininlärningsmodell efter träning kan de destillera fram den enklaste fysikaliska modellen eller ekvationen för att beskriva observationerna,rden mest parsimoniska förklaringen. Metoden går ut på att låta AI:n identifiera underliggande mönster i data och sedan uttrycka dem i form av kompakta, analytiska ekvationer, snarare än som komplexa ”svarta lådor”. På så sätt kan AI:n fungera som en forskare som genererar ny vetenskapliga insikt och inte bara prediktioner.

Här är ett annat mycket uppmärksammat papper från Tegmarks grupp:

https://www.science.org/doi/full/10.1126/sciadv.aay2631

Ja du får väl tro vad du vill, det är nonsens och ingen seriös inom ML tar Max Tegmark på allvar, tro vad du vill.

Redan idag lever vi i symbios med maskinerna; vi klarar oss inte utan dem och de klarar sig inte (ännu) utan oss. De bestämmer på sätt och vis över oss liksom vi bestämmer över dem. Butler bemöter ditt argument så här:

Bra att du tar upp det!
Man kan också se det som att människan blir utkonkurrerad. Vi är för långsamma för att tävla med en automatiserad maskin (robot).
Jag har tre funderingar /invändningar
1. Den ena är att vi redan är slavar - under ett system. Superkapitalismen styr våra liv, våra länder. Eller så är det något annat system som styr. I båda fallen är människovärdet litet.
2. När blir en 'maskin' en maskin? En grävmaskin klarar av 100 grävjobbande män. Den är en maskin - Men om männen ska använda händerna så behövs det 1000 man för att ersätta grävmaskinen. Är en spade också en "maskin"? Var går gränsen för att något ska kallas för maskin?
3. Storkapitalet satsar på A.I. Är det för att förslava - eller vad är meningen med dessa enorma belopp som satsas på A.I. ?

1. Vi bejakar teknologisk och ekonomisk expansion eftersom den gagnar oss. Vi får ett enklare liv genom att utveckla maskinerna, även om det leder till att vi de facto förslavas under en annan, högre stående art.

2. Enligt Samuel Butler är även spaden en maskin:



3. Återigen är AI något som effektiviserar vårt arbete och ökar vår produktivitet. Jag tror det är helt omöjligt att stoppa utvecklingen, eftersom den ekonomiska drivkraften är så stark. Den fiktive "författaren" till manuskriptet om maskinerna skulle aldrig i verkligheten få genomslag i sitt kall att stoppa förfiningen av människans verktyg och maskiner. Få människor vill gå tillbaka 271 år i den teknologiska utvecklingen för att slippa bli underordnad maskinerna.