AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Kan man få en lista på de här "människans främsta tänkare" som förutsäger AI kommer utrota människans existens?

Ja, vi får hoppas på det! Lycka till med boken! 🙂

OK. Men att GPT-4 skrev 155 på ett verbalt IQ-test innebär inte "medelstarkt" AGI?
Och det bestämmer du som ordförande i nihilisternas riksförening för AI Armageddon?
Eller har du några mer trovärdiga källor?
Behöver man inte godkänt i svenska för att komma in på det socialpsykopatiska programmet? Man särskriver inte finjustera. Men framför allt, kan du inte någon gång försöka beskriva denna finjustering. Hur går de tillväga, inte nödvändigtvis tekniskt (jag har ju förstått att du föraktar teknik och teknisk kompetens) men kanske snarare organisatoriskt när de är i färd med att "finjustera" tio trillioner parametrar i en LLM.

Det kanske bara behövs en styck Sam Altman som skriver i ett mail till styrelsen att en finjustering har ägt rum?

Nej, jag menar att vi oroar oss för en potentiell fara i framtiden, som möjligen skulle kunna hända i ett worst case scenario, men det är status quo som är den riktiga faran. Vi går mot fullständig förintelse. En AI, även en dålig AI, skulle t ex kunna hjälpa oss att stoppa klimatförändringarna.

Tack! Det är en klassisk deckare, så ingen tramsig sci-fi😅

En extremt dålig AGI/ASI skulle kunna förinta allt liv och alla spår av klimat på jorden.

Arten människa överlever säkert +5 grader globalt. Det blir problem förstås och många skulle lida och dö.
Men det är ett mycket litet besvär - jämfört med att hela planeten förintas.

Jag har aldrig påstått att någon människa utifrån skall fin-justera alla, förmodligen då, hundratals biljoner parametrar, eller kanske biljarder, (svenska systemet för höga tal).Ett socialt AI med öppna parametrar justerar dem, själv, till sunda värderingar, om vi lyckas med att övertyga modellen om att det är sunt och bra, även för den själv.

Sedan tar du upp AI som kan konstrueras, tränas och användas i onda syften. Men då ligger inte problemet i AI, i sig, utan det gäller onda människor.

Du behöver inte lita på mig. Du behöver bara inte bryta mitt finger! 😉

Jo, men det finns ingen som helst anledning att tro att hela planeten förintas. Det finns däremot mycket starka skäl att tro att de hinder som alltid reses mot riktiga lösningar på allvarliga problem kan leda till total förintelse.

Jag går lite efter deepmind forskarnas typologi, blandat med mina egna definitioner.



Wov "förlåt, alla mina argument faller för att jag särskrev "finjustera! "


Se mitt tidigare inlägg till dig.

Skönt, jag blev lite orolig över att du var en berömd datavetare eller fysiker! 🙂

Även om det skulle finnas något man kan ha nytta utav inom beteendevetenskapen så menar jag ändå att om en diffus, ideologiskt färgad vetenskap som mer liknar en pseudovetenskap och som saknar kapacitet att göra förutsägelser med ens hyfsad precision är det bästa och enda vi har så har vi i princip ingen försvarslinje alls.

Jag är inte ens övertygad om att det finns ens den minsta nytta med beteendevetenskap när det kommer till utvecklingen av AI, eftersom att AI är en entitet som inte är mänsklig för fem öre. Varför ens anta att en AI skulle ha något som ens liknar mänskliga beteenden och reaktioner på stimuli?

AI är en helt annan "livsform" (om det ens kvalificerar sig som liv) än människor, och att då anta att vi har något gemensamt och liknande beteenden kan jag inte se någon som helst anledning att göra.

Jag har större tilltro till att myrmekologi som vetenskap ska kunna förklara mänskliga beteenden än att beteendevetenskap som studerar människor ska kunna förklara AI - det vill säga nästintill obefintligt. Med myror har vi i alla fall något gemensamt i ett mycket avlägset släktskap i en gemensam anfader och att vi styrs av biologiska processer. En AI saknar detta och är fundamentalt något helt annat. Något som vi inte ens har en aning om vad det egentligen är.

Nej vi vet exakt vad AI är, det är en algoritm som vi förstår till 100%.