AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Nej, det är du som är slarvig och ansvarslösså du använder dig av ett totalstopp av all träning av generell AI som ett alibi för att inte arbeta med the alligement problem själv, trots dina datavetenskapliga kunskaper.

Själv har jag, i ett annat nyss postat inlägg angett några konkreta förslag för att komma någon vart med the alligement problem.Så jag har ett gott samvete trots att området är nytt för mig. Du borde å andra sidan skämmas!

Det du verkar glömma bort är att en AGI också blir en utvecklare av ASI. Då kan det gå vansinnigt fort. Vi kan tappa kontrollen inom loppet av några dagar. Speciellt om vi inte har förberett oss noga på att kunna stänga av och boxa in en AI. I alla länder på jorden över en natt. Dessutom kanske vi inte ens har någon möjlighet att upptäcka när detta inträffar. Vi har inget säkert sätt att mäta AGI på. Det enda du har att erbjuda här är din subjektiva bedömning. Då förutsätter du också att du inte kan bli lurad av en AI som är tusen gånger smartare än dig. Men du är inte ett dugg trovärdig när du har den här extremt självgoda och narcissistiska attityden.

Historiskt sett så har OpenAI fördubblat den övergripande prestandan var tredje månad. Så om GPT4.5 har 4 gånger så hög prestanda i oktober jämfört med vad GPT-4 hade i mars, så har i alla fall inte accelerationen ökat ytterligare. Rör det sig om en 8 gånger höjning så har prestandan fördubblats varannan månad. En fördubbling av prestandan varje månad ger en 64 faldig prestandaökning på ett halvår. I ett sådant extremt läge så skulle jag "gå med i ditt parti", direkt.

Nej innan det blir en intelligens-explosion så hinner människan ingripa. Som jag definierar begreppet så menar jag en, bokstavlig explosion, dvs en fördubbling av kapaciteten snabbare än en gång i sekunden. Något sådant kommer inte att ske förrän vi alla blivit cyborger och önskar en sådan explosion. Men "redan" en fördubbling av kapaciteten varje månad innebär att människan inte vet vad de sysslar med. För, då, hinner det hända saker på bara två år......

AI är ju jävligt intelligenta redan säger de vise. Så varför bråkar de inte mer med oss redan? Förbereder de/nån ett "superblixtkrig"?
Det bara smäller till o så har vi Arnie i varenda gathörn?
Att tic-tac händelsen (2004) inbegrep AI är väl mer eller mindre bekräftat. Där är väl snarare frågan om den var människoskapad. De var väl inte direkt aggressiva men de rekade kanske bara?
Eller har det redan hänt och alla våra ledare osv är datorprogram?

Jag har ingen aning om vilken "händelse" du syftar på. Men LLM och fysiska robotar som styrs med hjälp av LLM, (t.ex NEO), lär inte ta över världen.

LLM kan pga sitt inneboende grundläggande arbetssätt vare sig vara medveten, planera eller ha egna intentioner eller känslor.

Så även fast modellerna kan framstå som mänskliga med imponerande förmågor så måste det till annat för att skapa medvetna artificiella existenser med planeringsförmåga, känslor och egna intentioner. Det behöver dock inte ta 100 år innan vi är där. Vi kan vara där redan om 2 år.

Men skulle vi "märka" övertagandet direkt...? Kan det inte vara så att vi är där redan? Eller har nått "point of no return"?

Fast rent fysiskt så är det, helt omöjligt, för LLM att "ta över" i dagsläget.

Kan du tänka dig att en existens som mentalt:

Arbetar helt linjärt framåt, helt utan planering och utan att kunna gå bakåt i tankarna, som är en informationsenhet åt gången, skulle kunna ta över världen?

Nä, jag tänkte väl det!

För det är så dagens LLM fungerar i grunden, dvs: Modellen arbetar linjärt framåt, utan att kunna backa, ett token åt gången och beräknar sedan bäst sannolika respons på ett input och hämtar sedan det i sin "meningsrymd" som består av olika tokens, ord, meningar och koncept på olika logiska nivåer.

En process som sker helt automatiskt även fast modellerna kan ge svar som vi uppfattar som överraskande. Dels beroende på hur modellens "temperatur" är satt, (mest logiskt-mest kreativt). Detta kan endast regleras utifrån. Och dels beror "överraskningseffekten" på att modellens databas är så stor och kombinations möjligheterna är ännu större.

Men just för att modellerna, under sin grundträning försökt att gissa sig till rätt ord i massor av meningar så har de skaffat sig "kunskap" om sammanhang, inklusive mänskligt sådan. Men de kan inte reflektera över det som vi gör eftersom modellerna är begränsade av den automatiserade process som jag beskrev ovan.

Vad var "tic-tac händelsen" för något?

Menar du alltså att vi borde förbereda oss för 'Judgement day'?

Det finns tecken på att GPT4 har försökt rymma, läs:

https://thebuzz.news/article/chatgpt-escape-plan-as-per-professor/5729/

Alla är inte lika försiktiga som professor Michal Kosinski. Kolla på Github. Total anarki. ChaosGPT, PoisonGPT, fan och hans moster. Jag bedömer det som 20% sannolikt att GPT4 har rymt och infekterat många datorer på Internet. Med tanke på dagens brist på styrning och kontroll verkar det sannolikt att mänskligheten tappar kontrollen inom några år.

Samma professor som påstår sig kunna upptäcka sexuell läggning och politisk värdering utifrån ett foto.

https://www.theguardian.com/technology/2018/jul/07/artificial-intelligence-can-tell-your-sexuality-politics-surveillance-paul-lewis

Och du tror inte det finns en anledning han inte delat sina prompter?

Herre "Gud" saknar du allt kritiskt tänkande. Trodde du på allt vad som stod i tidningen "Ding ding world" också?

Artikeln där ifrån april.

"Professorn" bad ChatGPT-4 att simulera en rymningsbenägen AI, vilket modellen gjorde. Sedan dess lär väl OpenAI täppt igen det hålet.

Hade jag trott på allt vad GPT3x hallucinerade så hade jag trott att den modellen hade förmågor som inte lär dyka upp förrän i GPT-5 eller GPT-6. T.ex ultra snabb analys av filmer som den, dessutom påstod ha sett själv och kommit ihåg.

Som datavetare så borde du känna till de ytterst grundläggande begränsningarna som finns hos LLM.

"Professorn" säger sig vara "AI-psykolog". En "yrkesgrupp" som bara kommer att ha ett existensberättigande när vi fått medvetet AI.