AI 2027 scenariot

Här är ett väldigt detaljerat scenario för utvecklingen av superintelligenta system och konsekvenserna det kan få för biologiskt liv.
Daniel Kokotajlo och Scott Alexander är gamla rävar inom debatten och branschen. Dom mappar ut månad för månad från nutid till 2030 och ger sina förslag på vad som kommer hända. Läsaren får välja två slut-scenarion ett snällt och ett väldigt tråkigt slut. Jag postar båda i tur och ordning med spoilers.Det mer otäcka slutet känns spontant rimligt för mig som gammal cyniker. Livet har alltid vart hårt på jorden, plötsligt börjar en ny bakterie göra syre så dör alla andra. En dag slår en stor komet ner och dödar alla dinosaurier. Du bor i en liten jordbruksby när fem tusen mongoliska bågskyttar dyker upp med sina hästar och tar allt. Historien är full av plötsliga slut, varför skulle det vara annorlunda idag?Jag läste hela scenariot igår, en kall hand kröp upp och tog mitt hjärta, satt och stirrade som Sarah Connor på ungarna som spelar Minecraft lyckligt ovetande om allt efteråt, bara några år
Gott nytt år 2030, vi har tur

Utrotning av biologiskt liv https://ai-2027.com/

Jag tror att det kan vara mer pedagogiskt att förenkla resonemanget och i stället för science fiction ta ställning till följande frågor:


1. Är det troligt att vi inom 10 år har utvecklat en Artificiell Superintelligens, ASI?

2. Är det troligt att den blir mycket smartare än oss, och att den skulle kunna ta över kontroll och all makt från mänskligheten?

3. Om vi tappar kontrollen, hur kan vi då säkerställa att vi överlever?

4. Vad kan vi göra i dag för att undvika det värsta utfallet?

Du missade den stora frågan, som gör dina frågor obsoleta:

Är det troligt att vi kan utveckla Artificiell Superintelligens m.h.a. digital teknik?

Svaret är nej. Det behövs analog teknik och dit är det långt. Vid den tiden, har ingen av oss överlevt...

En tre timmar lång intervju:

https://www.youtube.com/watch?v=htOvH12T7mU


Inte direkt några kul killar... Killar som inte är så smarta som de själva tror... Inte direkt några killar man vill skall ha tillgång till domedagsvapen...

Bloggen som nämns:

https://www.astralcodexten.com/

Smakprov:

https://www.astralcodexten.com/p/my-takeaways-from-ai-2027


Men skriva kan han!

Människor som tror på AI är de första som kommer att försvinna ned i AI-hålet, förklarat obehövliga eller överflödiga. Så att vara pro- AI är att vilja förinta/eliminera sig själv. Men detta händer i denna stund. Ser det men mina egna ögon, hur så kallade kollegor degenerar till värdelösa människor på rekordtid. Läskigt. De har bokstavligt avskaffat sig själva och sin kompetens. Jag börjar se dessa som fejk, zoombies, icek-levande. Man avskärmar sig, låtsas som att de inte finns.

Definiera "tror på AI". Anser att AI är användbar? Anser att AI kan redan idag kan lösa logiska problem, resonera, föreslå nya ideer och skapa nya datorprogram? Tror att AI kommer att effektivisera många yrken snart? Tror att AI kommer att kunna utnyttjas för att påskynda utvecklandet ny ändå mer avancerad AI, och därmed allt snabbare utvecklas i riktning mot superintelligens?



Ett bra inlägg i denna usla tråd.

Tänker hellre själv.

Varför "definiera" AI? Alla vet ju vad alla pratar om. I andra eller tredje meningen säger dessa människor "revolutionerande" . Check!! Det gulliga är att de alla låter som en och samma person. Google avskaffar effektivt allt AI-negativa nyheter, kommer att avskaffa sig själva. Till slut finns bara AI-bottar som tänker i stället för dig. Utan källor. Men allt med AI är internetbaserat och språkbaserat och det kan finnas en tidpunkt där det kanske är så att det bästa är att cheka ut för gott. För väldigt mycket här i världen är INTE språk och är INTE internet. Fattar inte att människor är så korkade att de går på AI-skiten (alltså 3-e generationens konversationella AI).

Det är billig skit. Om man på Youtube hör att rösten är AI, hur billigt är då inte researchen och allt content som ligger bakom det hela? Det är ju så alla tänker. och det är man försöker klicka bort skiten. Tyvärr lägger Youtubes ägarbolag upp skiten högst i söklistan eftersom de själva har satsat all sin framtid på AI. Om man är smart tror man på AI, inte för att AI är särskilt bra utan för att personer med pengar och makt tror på AI och kan deklassera dig som inte tror på AI.

När du testar generativ AI, hur kommer det sig att du inte blir entusiastisk och tycker att du har praktisk anävndning för detta? Har du ett jobb eller en situation där du inte behöver effektivisera ditt googlesökande efter källor och faktauppgifter, inte skapa nya bättre texter snabbare, inte översätta och sammanfatta texter, inte behöver hjälp att förbättra språket i dina texter, inte behöver plugga in ny kunskap eller få förklaringar på sånt som är svårt att förstå, inte behöver faktachecka innan du skriver diskussionsinlägg, inte behöver hjälp att hitta lösningar på logiska problem, inte behöver nya ideer till projekt, inte gör beräkningar eller programmering?

Du säger att de människor som enligt dig "tror på" AI är de som använder ordet "revolutionerande". Det är väl främst marknadsförare och kommunikatörer som använder det ordet - deras jobb är att låta intressanta och attrahera läsare. När vanliga användare, t.ex. mina kolleger, upptäcker nya funktioner hos chatgpt, eller upptäcker att den ibland verkar vara mer intelligent än många människor, så kan de låta otroligt entusiastika och fascinerade men de använder sällan ord som "revolutionerande" i fikarumsdiskussioner.

Men du har en poäng. De flesta nya tekniker går igenom en hypekurva, där det först blir väldigt populärt (kan ge ekonomisk bubbla), sedan en backlash eller krasch då folk är överdrivet kritiska, och sedan en ökning till en mer stabil nivå. Det kan hända att företagen investerar i stora AI-projekt och inte alltid kommer att få tillbaka pengarna. Alla yrken blir inte effektiverade. AI har redan gått igenom flera sådanna hype-kurvor sedan 1960-talet, och det kommer även dagens generativa AI att gå igenom. Hypen är inte över, men du är rätt tidig med att vara överdrivet kritisk.

Här blir läkare utklassade helt och hållet av AI som diagnostiker, läkare med AI blev inte heller bra.

Dom nya GPT modellerna nallar ingenjörernas jobb hack i häl




Jag svävar själv. Robin Hanson har motargumentet här. Men kom ihåg att aerodynamik och flygande ansågs löjligt och tokigt i många år tills några listade ut hur man gjorde och vips flögs det ända till månen. Jag sitter och chattar varje dag med Grok och DeepSeek, det är the real deal.

Hoppas att det är lite hype och det lugnar sig ett tag, är det en fast-takeoff timeline så tror jag vi dör.
https://www.overcomingbias.com/p/ai-is-gpt-and-gpts-go-slow

En övertro av pessimism?

Jag förstår inte hypen i det att man tro att AI är en "ROBOT"... den är i behov av energi och exakt hur mycket vet jag inte men för varje fråga tar det en del energi och datorkraft för att hämta all den information den sparat. Sedan ska den sammanställas så att det både är korrekt men också nischat till att du tycker om svaret. Alltså en typ av polarisering.

Människor som gillar fakta och rutiner. Blå av en känd rolig professor tycker om AI väldigt mycket och dess svar. Det är som att AI spammar ut Råd och rön svar. Bäst i test. Välj det här. Alla väljer samma.

Detta är ett läsvärt inlägg.

Jag tycker att AI:s påverkan på arbetsmarknaden har gått långsammare än förväntat. Många experter säger att det har gått snabbare än väntat, men jag har inte hittat någon tydlig arbetsmarknadsstatistik som stödjer dem. En tydlig effekt är dock att antal sökande till civilingenjörsutbildningar i datateknik har minskat, trots att det är de med den utbildningen som ska genomföra införandet av AI. Många tror att AI tar datateknikernas jobb, men de flesta prognoser talar om att det kommer att behövas många fler AI-experter och andra kvalificerade datatekniker. Jag hittade bara en journalist i tidningen The New yorker som påstår att arbetsmarknaden för programmerare skulle ha minskat med 25% i USA - hon anger dock inga tydliga källor för detta.

Tack för tipset om Robin Hansson - han är intressant. Han är amerikamsk ekonomiforskare som har pratat om att AI kommer att ge stora samhällsförändringar, men han var mer varnande innan chatgpt kom än efter. Tidigare varnade han för hög arbetslöshet, lönedumpning och stora inkomstskillnader. Nu tycker han att andras varningar för katastrof är överdrivna. Han menar att vi borde släppa AI fri att utvecklas till våra mentala barn som samexisterar med oss, och vänta med att begränsa dem tills vi ser tydliga problem. Vi behöver dock institutioner som kontrollerar utvecklingen.