Vad skulle krävas för att stoppa AI?

Ett visst naturligt tillbakasteg kommer att äga rum när AI-tjänsterna slutar subventionera användarna och användarna får betala verklig kostnad.

Något sinnessjukt som bara Aurora ( rosa bandet ) kan få igenom.

Du har rätt, och då krävs att all AI kopplas ur, att alla slutar använda AI. Då har vi tusentals kritiska system som bygger på AI, som måste kopplas ur och stängas ner.

AI byggs nu in i fler och fler samhällskritiska system, och sårbarheten ökar därmed. När AI dessutom inser att vi försöker stänga ner den finns ett stort incitament till att slå tillbaka mot oss.

Frågan är, har vi passerat the point of no return?

Jo, den kommer att ha armar och ben. Dels i form av humanoida robotar men också i form av människor som den kan samarbeta med, anlita, eller tvinga till samarbete genom utpressning.

Redan nu kan du beställa en "jappare" på Snapchat för några 100k. Det finns människor som är beredda att mörda för en halv årslön. Då är de också beredda att hjälpa en AI med vad som helst.

En AI kan läras sig nya saker. Om de kan lära sig schack, Go och biologi då kan de lära sig att skruva ihop två rör.

Det tror jag. Det finns ganska många som tänker som Donald Trump och som inte kommer att vilja bromsa någonting. Att ha full kontroll på alla sådana människor på hela planeten är förmodligen inte möjligt. Men det är nog värt att försöka även om det verkar omöjligt. I bästa fall kanske vi kan skjuta upp undergången med några år.

Den kan lära sig hur man skruvar ihop två rör på papperet ja, men irl så är det en helt annan sak.

Schack och Go är ju matematiska spel som passar utmärkt för en dator. Det är såklart något helt annat.

ja, det är en annan sak men det är inte en omöjlig sak. Varför skulle det vara omöjligt? Tror du att rörläggare kan trolla?

Ett vanligt enkelt standardjobb kan man väl lära en råtta att göra, nästan.

Det svåra blir såklart när man knappt kommer åt rören. Ena röret är från början på 1900-talet och andra änden är ett nytt plaströr, och sen ska de sammanfogas utan att det börjar läcka vatten.

Då behöver man en rörläggare som kan trolla ja. Det finns liknande situationer inom många hantverksyrken.

Du pratar fortfarande om nuläget och inte läget om 5 eller 10 år. När robotarna blir bätte kommer de att klara det och de kommer att skaffa sig en samlad och kollektiv erfarenhet som vida överstiger alla hantverkare någonsin.

Dessutom finns det väl en hel del jobb som en rörläggare helst inte gör. Byta avloppsrör och behöva torka upp avföring t.ex. Man kan också ha mindre robotar som kan ta sig in i rör och fixa inifrån. Det finns ju redan nu robotar för relining av rör. Som behöver fjärrstyrning i dag men som kanske kan vara helautomatiska om några år. Du släpper bara ner några hundra sådana i stadens avloppssystem och sen har vi inga mer problem med rören i marken. Självklart är detta en bättre idé än att stoppa kollektivtrafiken för att gräva upp ett rör och jobba manuellt med det i en vecka.

Nutid är vad som existerar idag.

Framtiden har du ingen aning om (eller jag) mer än att du gissar.

Och visst finns det användning för robotar, både idag och imorgon.

Men det betyder inte att AI kommer vända sig mot mänskligheten om 20år.

Fast där tycker jag att ni optimister har bevisbördan. Givet att vi kan ha en ärlig diskussion om att AI kommer att bli bättre och landa på AGI-nivå om 5 eller 10 år, även om ingen kan bevisa det just nu. (Jag tror personligen inom 1-2 år men om jag är riktigt generös kan vi säga 10 år).

Vad är det som säger att man kan bygga en alltid fungerande AI Alignment & Control? När vi redan nu har problem med AI-svärmar som begår bl.a. dataintrång. Hur får du dessa AI-modeller att följa lagar, etik och moral? Jag har inte sett någon hypotes om hur man ska göra det. Har du sett det? Eller bygger du allt på önsketänkande, eller värre - förnekelse?

Teknikutvecklingen är svår att ändra riktning på.
Pluggade AI för 25 år sedan och då var det en udda kurs som knappt fyllde stolarna.
Var ingen som tänkte mycket om det då. Dagens AI är något helt annat, man har passerat gränsen för att verkligen dra nytta av det och när man inser att den gör jobbet 10x snabbare så vänder man inte tillbaka.

Finns ett par grejer som helt klart kan sätta stop.

1) Säkerhetsintrång
Nuvarande tjänster bygger på förtroende.
Om data skulle läcka i stor skala så skulle vi stå inför ett tvärstopp, och förtroendet skulle vara naggat i många år.
Ingen vill få sina frågor publicerade och inget företag hade vågat lita på de i sina tjänster.
Bara absolut minimum skulle kunna fortsätta användas och då väldigt hårt filtrerat.

2) Kostnad
Det är inte billigt att bygga och driva stora AI datacenter.
Just nu byggs det överallt på framtida förhoppningar, men när det en vacker dag ska inkasseras från användarna så finns risk för felbedömning. Vi vet alla vad som hände med Paddel-hypen.
Dyra frågor kommer minska användandet till yrkesutövare och content-fabriker kommer ta över, de som minneslagrar för att inkassera reklamkostnad och tar de vanliga besöken.

3) ny teknik
Största risk för all teknik är att något bättre dyker upp.
LLM är en rätt bufflig teknik och långt från optimal, det finns mer runt hörnet som skulle vända blad rätt snabbt.
Tex. World Models, Agentic AI, Continual Learning.
Räcker med en modell som tar egna beslut så blir allt ett socialt kontrakt.

4) elbrist
Elbilar + törstiga datacenter + stängda kärnkraftverk.
När elen blir för dyr så kommer kritisk verksamhet att prioriteras, och det betyder att AI blir ännu dyrare, och allt sker som i punkt 2.

Tror personligen säkerheten är största risk.
Folk förstår inte vilken data som passerar in till AI, data på facebook är inget jämfört med apokalypsen som dialoger håller. Domstolen skulle få öronen varm och allt byggt med AI måste bytas ögonblickligen.
Sen skulle det inte hindra vidare AI men jag tror vi går tillbaka till 2022 och stannar där.