AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Människohjärnan och vår kropp, är extremt effektiv i energianvändningen.

En Robot, som du nämnde, kör slut på sina batterier på nolltid

Föreställ dig en armé av robotar. Man käkar ärtsoppa och pannkakor med jordgubbssylt, och väntar tills deras energi tar slut i batteriet, under det att vi kan röra oss i minst 24 timmar på ett sådant skrovmål, och då har vi fortfarande reserver för att kunna röra oss mycket längre, kanske i en vecka, till och med.

Både du och jag känner ju till hur, dagens, LLM, rent översiktligt fungerar. De har bara en chans att svara korrekt, utan eftertanke. De gör det genom statistiska beräkningar, (det säger Iof inte mycket eftersom vi inte vet hur den mänskliga hjärnan, i grunden, arbetar). Men vi vet att den mänskliga hjärnan, i dagens läge, är mera komplex och har återkoppling loopar. Dock generaliserar både den mänskliga hjärnan och LLM, (den senare omedvetet på en mycket grundläggsnde niivå). Människan är social och kommunicerar även med språk och symboler. LLM är proto-social när modellerna försöker uppofylla användares förväntningsr. Människan har en bred och djup förståelse av kontext. LLM har en begränsad omedveten funktionell teoretisk förståelse av kontext, men den ökar ständigt som ett resultat av den teknologiska utvecklingen. Människan har ett djupt och rikt känsloliv. Dagens LLM saknar det, även om omedvetna "AI-känslor" inte helt går att utesluta, (speciellt inte om Hintons hypotes om känslor och dess ursprung skulle visa sig stämma) .

Vad gäller AI:s framtida kapacitet så gissar jag, det är sant. Men min gissning bygger på bra mycket mera erfarenheter och kunskaper än jag hade för ett och ett halvt år sedan. Jag tror det blir mycket svårt att hejda AI-utvecklingen mot AGI/ASI, om nu inte skeptikerna får rätt, för då hejdar den sig själv så att säga.Så då får vi göra vårt bästa för att få till säker AI. Jag tror på att internalisera samarbete och mänskliga värden och gemensamma mål för både människan och framtida ev. självmedveten AI.

En över fyra timmar lång intervju med en före detta säkerhetsforskare hos OpenAI, Leopold Aschenbrenner.
Intervjun handlar mycket om hans 165 sidor långa avhandling (pdf).
Här är en lite mer lättbegriplig sammanställning av dokumentet (även denna över en timme lång) https://youtu.be/WLJJsIy1x44?feature=shared

We’re developing the most powerful weapon mankind has ever created. The algorithmic secrets we are developing, right now, are literally the nation’s most important national defense secrets—the secrets that will be at the foundation of the US and her allies’ economic and military predominance by the end of the decade, the secrets that will determine whether we have the requisite lead to get AI safety right, the secrets that will determine the outcome of WWIII, the secrets that will determine the future of the free world. And yet AI lab security is probably worse than a random defense contractor making bolts.
It’s madness.

By the time the decade is out, we’ll have billions of vastly su- perhuman AI agents running around. These superhuman AI agents will be capable of extremely complex and creative behavior; we will have no hope of following along. We’ll be like first graders trying to supervise with multiple doctorates.

Skrämmande!

[quote=fabbe2|88583327]En över fyra timmar lång intervju med en före detta säkerhetsforskare hos OpenAI, Leopold Aschenbrenner.
Intervjun handlar mycket om hans 165 sidor långa avhandling (pdf).

Somewhere around 26/27 or so, the mood in Washington will become somber. People will start to viscerally feel what is happening; they will be scared. From the halls of the Pentagon to the backroom Congressional briefings will ring the obvious situational awareness question, the question on everybody’s minds: do we need an AGI Manhattan Project? Slowly at first, then all at once, it will become clear: this is happening, things are going to get wild, this is the most important challenge for the national security of the United States since the invention of the atomic bomb. In one form or another, the national security state will get very heavily involved. The Project will be the necessary, indeed the only plausible, response.

The endgame
And so by 27/28, the endgame will be on. By 28/29 the intelligence explosion will be underway; by 2030, we will have summoned superintelligence, in all its power and might.

Förmodar att du skämtar, förstås.

Men lagarna för robotar ur boken filmen, jag förmodar att du tänker på, är baserad på är ju ändå intressanta;

”A robot may not injure a human being or, through inaction, allow a human being to come to harm. A robot must obey orders given it by human beings except where such orders would conflict with the First Law. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.”

Isaac Asimov's "Three Laws of Robotics"

Intressant citat, tänkte på att Will Smith i filmen bad en robot rädda ett barn, istället för honom själv. Roboten valde dock att rädda Will Smith då det fanns en större chans för Will Smith att överleva olyckan. Går roboten i detta fall inte emot de 3 lagarna?

Det "intressanta" är att det finns människor som tror att en ASI-robot skulle respektera "robotikens lagar" som någon författare har hittat på. Eller intressant, det är väl mer tragiskt egentligen.

Det här kanske grundar vissa i lite mer var AI är och kommer vara närmsta tiden.

https://www.youtube.com/watch?v=4JF1V2hzGKE

Ja, men det är samma typ av clownmänniskor som tror att människor kommer kunna kontrollera något som intellektuellt är vida överlägsen dem själva och inte bunden av långsamma biologiska processer och evolution.

Förmodar att du tänker på Hans Moravec, men annars är det väl inte så många forskare eller insatta som tror det? De används ju som tankemodeller inte som något som ska implementeras confestim.

Vem som hittat på lagarna och vad denne har för yrke är väl iof knappast relevant.

Det här är intressant och ligger i linje med vad jag själv trott. Att man använder en LLM som ett steg av flera i ett modulärt system där andra moduler t.ex. kan vara databasanrop, kalkylator och python-tolk.

Det är också insiktsfullt vad Frosst säger att hallunicationer (när LLM självsäkert skriver helt fel) egentligen är ett dåligt begrepp, eftersom även sådan output från LLM som av användare upplevs "rätt" tekniskt sett motsvarar dessa hallunicationer, bara det att outputen stämmer överens med våra förväntningar:

Och en annan video som kan vara värd att titta på (Där Francois Chollet totalt får Dwarkesh Patel framstå som fullständigt förståndshandikappad, trots han lägger fram exempel efter exempel och en frustrerad Dwarkesh fortfarande inte får in att han inte förstått något)

https://www.youtube.com/watch?v=UakqL6Pj9xo