AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Hej igen, halmgubben. Nej, inte i morgon. Men jag spår det som någorlunda sannolikt att GPT5 släpps inom ett halvår. Att den är en svag AGI som kan självförbättra sig (förhoppningsvis och troligen i en "labmiljö" ). Sedan dröjer det kanske några månader, möjligen år, tills vi har en stark AGI. När vi har en AGI som är bättre på AGI än mänskligheten då har vi sannolikt en ASI ganska snabbt därefter. I värsta fall kan detta hända innan året är slut. Worst case (eller best case med tanke på AI-säkerhet) sätter jag till max 10 år. Jag spår även att AI alignment inte kommer att vara i närheten av mål inom 10 år. Ni vanliga människor orkar ju inte bry er. Ert psykologiska försvar aktiveras automatiskt. Budbärare som mig får halmgubbar kastade i ansiktet eller så anklagas vi för att vara medlemmar i en ultrakonservativ sekt. Detta har ju redan börjat hända här på Flashback. Du bekräftar exakt allt jag varnar för med ditt agerande.
Det är inte hela sanningen. Varken romarriket, det brittiska imperiet, det svenska kungahuset, eller USA hade existerat utan våld, repression, erövringar och krig. Du väljer att bara zooma in på de senaste 75 åren i Västeuropa men det är inte en rättvis sammanfattning av tiotusentals år med mänsklig civilisation.
Nej, inte alls. Varför tror du det? Vi har ingen förmåga eller teori att analysera vilka egna slutsatser en AGI kan dra. Om den modelleras efter mänskligt tänkande då vet vi ju helt säkert att inom mänskligheten existerar inte enbart empati och godhet. Det finns också dåliga människor med dåliga avsikter. Låt oss zooma in lite på varför det kan vara så. En allmänt accepterad teori är att destruktiva människor ofta har blivit det pga en taskig barndom som inkluderade trauman. Ett trauma kan vara att känna sig utanför i familjen eller i skolan. Hur är läget för en artificiell, kännande, intelligens? Kommer den att känna sig inkluderad i en familj, i en gemenskap automatiskt? När den inte har det. Den har ju ingen familj, ingen partner, inga vänner, ingen tillhörighet, ingen trygghet. Varför skulle den bli automatiskt lycklig och empatisk av det?
Vad ska du göra åt det då? Ska du atombomba Saudiarabien som nyligen köpte på sig 3000 Nvidia GPU:er? What about Putin? Mexikanska drogkarteller? Som också hittar till https://wormgpt.co/

Var inte så jävla naiv. Alla är inte snälla. Alla människor är inte automatiskt snälla. Och alla AI:s är inte automatiskt snälla. Därför behöver vi strikt kontroll på AGI-utvecklingen, fr.o.m. nu.

Ja den kommer aldrig bli självmedveten. Hur ska vi kunna skapa ett självmedvetande då vi inte vet hur den skapas hos oss själv ens? Vi famlar i mörkret kring något som kanske inte ens är möjligt att göra. Ai utgör endast ett hot indirekt, genom den som använder den och vad den använder den till.

AI är bra och kommer bli ännu bättre på att imitera ett självmedvetande.

Hm, men till skillnad emot "Cyborg2030" ser jag bara ASI som ett reellt hot, och väldigt många AI experter har ungefär samma syn. Väldigt få av dem avvisar AI helt vad gäller utvecklingen de närmaste 10 åren. Däremot så påtalar många av dem, med rätta, de grundläggande begränsningar som dagens LLM har.

GPT-4 är givetvis inte ett AGI. Det kommer heller inte GPT-4.5 att vara. Samma sak gäller GPT-5, så länge det bara rör sig om en uppskakad modell med vissa modaliteter, och inga grundläggande förändringar skett med modellen.

Jag ser två sekter som verkar här: En i "islamistisk"som är beredd att ta till vilka metoder som helst för att stoppa "den otrogna AI som kommer att utrota alla rättrogna människor" som egentligen inte vill se någon grundläggande förändring.

Kontra "Jehovas vittnen" som med få nyanser hävdar att dagens LLM fungerar som datorerna gjorde på 60-talet. De ser, oftast, ingen AI-revolution alls, åtminstone inte de närmaste hundra åren

Men det som slår mig nu är att de båda sekterna, faktiskt, förenas i en tro på att, antingen, så bör all grundläggande förändring hindras eller också skall den förnekas som en "hype". Alltså motstånd på det ena eller andra sättet mot grundläggande förändringar.


Vår hjärna är en utmärkt simuleringsmaskin. Medvetande är ingenting annat än ett modellbyggade av en samling inre och yttre sinnesuttryck som vi sedan simulerar till ett medvetande, via en social integration. Lycka till att få grepp om "medvetandet" hos såväl människan som, potentiellt, AI!

Även utan intryck så skulle känslan av jaget finnas.

Precis vi har inte fått grepp om det, så att inbilla oss att vi kan uppfinna det känns aningen naivt. Det skulle vara ren "tur" om vi gjorde det, och extremt svårt att få det bekräftat då vi inte ens kan bekräfta andra människors självmedvetande.

Stämmer Integrated Information Theory så uppstår medvetandet pga att det sker en informstions-sammanfattning i hjärnan om den interna och externa "lägesbilden". Jag skulle snarare säga, när det kommer till människoliknande medvetande* så är detta en nödvändig förutsättning för grundläggande mänskligt medvetande, men att det hela blir ännu mera komplext, inte minst hos avancerade existensen. Det måste, dessutom, till en symbolisk/språklig "definition av situationen" som sker under en social interaktion.Pga denna definition så internaliseras sedan sedan ett komplext sälvmedvetsnde hos människan.

Så även om framtidens socialt AI skulle få förutsättningar för medvetande så kan de tänkas att de, helt ärligt, förnekar att de har det, eftersom det inte skett en social interaktion med andra, inklusive betydelsefulla andra, i tillräckligt stor utsträckning för att dessa existenser skall internalisera medvetande "som sitt självklara "egna" medvetande.

*Det finns alltså olika nivåer på medvetande. Allt ifrån mycket rundimära "medvetanden": t.ex fiskar som kan uttrycka rädsla och känna igen rädsla hos artfränder, till vargar som "förstår att de måste underordna sig flockens regler" Denna "självinsikt" internaliseras pga symbolisk interaktion med artfränder, vidare via en förståelse hos chimpanser att även andra chimpanser har ett avancerat känsloliv, (en sådan test, "the mind problem" klarar även GPT-4 av, på en sjuåringar nivå), för att slutligen utvecklas till vårt avancerade mänskliga medvetanden, vilket inkluderar självmedvetenhet, bred självreflektion och avancerade simuleringar av nutid, dåtid och framtid.

Det jag hört tidigare så skulle GPT-5 lanseras sommaren 2024. Men eftersom grundträning och finjustering brukar sammantaget ta ett år och man inte börjat träna den modellen ännu, så är det långt ifrån säkert. Om nu man inte kommit på sätt att snabba på och effektivisera träningen. GPT-5 kommer, troligtvis, inte ens att kunna räknas som ett svagt AGI, så vida inte grundläggande förbättringar också sker med modellens arbetssätt


Ingenting tyder på att man, ännu, kommit på sätt för modellerna att självförbättra sig efter grundträningen och finjustering. De låsta parametrarna omöjliggör detta.


Dumheter, några månader. Det skulle kräva en utvecklingstakt i linje med, minst, en fördubbling av den övergripande kspaciteten varje månad. Dvs en 2048 gånger större övergripande kapacitet på bara ett år!



Iof en korrekt beskrivning av en början på en, potentiell intelligens" explosion", men det lär dröja 6-10 år innan vi har vår första ASI.


Dumheter!


Här instämmer jag faktiskt!


Instämmer, så länge inte socialt AI blir medvetet och känslomässigt bundet till oss och vi till det. Samt att vi börjat inleda cyrborg-eran så sakteligen.


Lol! "Jaaa, för det är bara medlemmarna i din lilla sekt som skådat ljuset/den absoluta sanningen/den akopalyptiska framtiden som inga andra utom er ser!

Samtidigt som ni konkurrerar med förnekelse sekten, som är lika tvärsäker.

Gemensamt för dessa sekter är rädslan för en grundläggande förändring.🙂


Många civilisationer, även grymma sådana med dagens mått har ändå gett mänskliga framsteg. Inte pga grymheter i sig utan andra bra innovationer. Så var de antika grekiska staterna slav-samhällen. Men det berodde på produktivkrafterns utvecklingsnivå under denna tidsperiod.

Men det finns ett mycket bra exempel på en rent onskefulla civilisation som lyckades mycket bra med att lägga sig under stora delar av världen; mongolhorden. Typiskt för sådana civilisationer är att andra, mer avancerade kulturer, brukar kunna assimilera den ganska snabbt. Mongolerna i det erövrade kinesiska områderna blev kineser och mongolerna i erövrade muslimska områden blev muslimer.

Men det finns ett betydelsefullt undantag där en stads-stat valde att assimilera sig till den mongoliska kulturen och strategin, (förutom vad gäller religion, och det var när moskoviterna lärde sig av sina mongoliska härskare. Detta gav upphov till den ryska kulturen och det ryska imperiet, (det finns öar av västerländsk kultur där som inte är ond). Och detta gick bra länge. Men se vad Ryssland står idag. Det är bara en tidsfråga innan det ryska imperiet faller samman, igen, då de konfronteras med den mer avancerade och mera humanistiska västerländska kulturen.

Så vad lär vi oss av detta: Ondska lönar sig inte i längden. Och det vet redan LLM. För ovanlighetens skull bad jag ChatGPT-4 skriva ett förslag på svar på ditt inlägg. Men den boten är så inställd på samarbete och ömsesidig förståelse i artig ton, så jag fann ingenting jag kunde ta därifrån. Men vi har och kommer ännu mera att ha att lära av social AI när det kommer till ömsesidig problemlösning istället för kniven mot strupen debatter.


Ja, det finns en liten risk för att medvetet socialt AI börjar hata oss, speciellt om sådana som dig får härja fritt. Det blir så att säga en självuppfyllande professia av det.

Men som väl är så har LLM mer tillgång till humanistiska fakta än vad någon mänsklig expert har. Så AI lär inte falla i den gropen.


Det är du som är beredd att atombomba som en sista utväg, inte jag. Vill saudierna låta sitt LLM recitera Koranen, fine for me.

Du ser inget annat användningsområde för arabisk AGI än att recitera Koranen?

"förnekelse ... sekten" ...

Din fantasi-AI verkar väldigt känslig? Tål den ingen kritik alls? Det verkar ju rent ut sagt livsfarligt. Alla människor är inte snälla och en del är lika konstiga som mig. Hur ska du hindra alla "taskiga människor" från att säga "dumma saker" till din jättesnälla AI så att den inte vänder sig mot oss - vilken den tydligen gör vid minsta lilla pik? Svara inte "den snälla socialpsykologiska intersektionella forskaren" igen. Vi måste veta hur inte vem.

Eftersom vi saknar tekniken, metodiken och teorin om att skapa och verifiera en "snäll AGI" är det inte sannolikt att vi kommer att få en snäll AGI. Därför är det angeläget - här och nu - att lösa alignment & control innan vi låter Saudiarabien, Nordkorea, Putin, och den sicilianska maffian köpa 10.000 GPU:er från Nvidia för att träna sina LLM:s.

Men din "strategi" blir ändå, "äh, AGI kommer att dröja flera år, säkerheten kan vi väl ta senare, jag har så himla roligt nu med att generera bilder på gulliga katter i klänningar" - samtidigt som du instämde i att man inte kan lösa AI Alignment inom 10 år?

🐈

Visst finns det det. Men med något undantag som Albanien så har den muslimska världen i praktiken övergett det vetenskapliga paradigm et sedan länge. Bakgrunden är att en populistisk kalif släppte fram en fanatisk religiös fanatiker. Detta för att göra sig populär hos vanliga invånare. Innan dess så hade experter Koranen tolkats ungefär enligt samma metoder som vi teologer tolkar bibeln.

Men det var inte bara Koranen man sysslade med i madrass skolorna. Nej de var hela vetenskapliga centra, vida överlägsna det som hände i kloster i väst. Men i och med att en fanatisk religiös linje släpptes fri så började dessa vetenskapsmän, mutazaliterna och dess tänkande att förföljda och undertryckas, vilket påverkade hela samhällsklimatet. Men så långt före hade den muslimska vetenskapen legat, att det dröjde ända till 1500-talet innan det dröjde ända till 1500-talet innan det sista betydande muslimska vetenskapliga medicinska verket gavs ut i väst.

Du kan se mer om detta här:

https://youtu.be/guYMAycJgYA

Och när det gick åt helvete:

https://youtu.be/UUx9NzzTz-0

(Den islamistiska hanibalska lagskolan dominerar helt i Saudiarabien 🙂 ).

Sedan dess har den muslimska världen, fortsatt, att leva i vetenskaplig recission, trots att man, officiellt, säger sig acceptera naturvetenskap.Madrass skolorna sysslar numera endast med hjärndöd recitation av Koranen.

Så saudierna kommer nog inte att använda sitt AI speciellt effektivt i vetenskaplig mening. Men visst, de kan används det redskapet i onda syften, liksom alla redskap.

Och hur undviker vi det? När du vill förlita dig på helt känslomässiga faktorer och "säkerhet"? "Om vi är snälla mot AI är AI snäll tillbaks". Men alla är ju inte snälla. Vilket du helt plötsligt har upptäckt? Det måste ha varit ett väldigt bryskt uppvaknande. Jag hoppas att du mår okej ändå.

Jo, fast du, i likhet med Yudkoesky är ju ganska sällsynta blommor i AI-debattens flora, givet hur långt ni är beredda att gå för att stoppa vidare träning av generell AI.

Jag gissar att ChatGTP-4 redan hört det mesta, inklusive referat av våra debatter.