AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Det är ju det enda vi "doomers" vill. Mycket tyder på att den tiden är exakt nu. Eller nyss.

Vi får verkligen hoppas det!
Måste hinna redigera min bok som släpps i vår, innan jag förintas😁
Tittar in här efter det. Om vi fortfarande finns då🙏

Vilka är 'doomers'?

Varken Open AI eller någon annan kan "finjustera" tiotals trillioner parametrar i GPT-x.

Skyddad laboratoriemiljö. Där ser man. Du börjar ge vika nu?
GPTs & LLaMas körs inte i laboratoriemiljö. Källkoden är open source.
Du behöver bara många AI-chip för att exekvera eländet.
Och då får du en "social AI"?

Jag ska försöka lära mig att lita på dig, om du bara kan ge mig en pinkie-swear

Dom som fruktar att AGI kommer att utrota mänskligheten

Det största problemet just nu är att folk inte är oroliga.

https://9to5mac.com/2023/11/23/openai-board-mystery-may-be-solved/
OpenAI board was concerned a new Q* breakthrough could threaten humanity

Folk är oroliga, men för fel saker.

Ett medelstarkt AGI ligger typ på 75:te percillen av vad skolade Kognetiv anställda klarar. Det har, minst ett rudimärt medvetande som är mer omfattande än det som man inte helt kan utesluta att även dagens LLM har. Dvs. Det måste sträcka sig längre i tid och rum än en aktiv chat-tråd.

Socialt AI har vi redan idag, dvs LLM :

Modeller som är matade med information ifrån internet under sin grundträning.

Modeller som är fin-justerade efter mänskliga normer och värderingar.

Modeller som interagerar med massor av människor.

Modeller som arbetar med mänskligt språk ifrån grinden och som har en djupare förståelse för språk än enbart grammatik.

Modeller som förstår mänsklig kontext i sin meningsrymd.

Modeller som kan generalisera likt vi kan.

Modeller som bedömmer vad användaren vill, snarare än ger "korrekt svar" alla gånger. Precis som vi människor.

Osv.....

Jag kommer inte att upprepa allt detta för dig. Gör din autism och panikångest att du glömmer bort det, så är det ditt problem!

Absolut, du är chockad!

"Doomer" är generation Z's öknamn på alla som nämner att AGI kan vara en existentiell risk.

Troligen en variation av ordet "boomer" som ibland (helt felaktigt) används mot män från ca 40 år ("generation X"), t.ex. Eliezer Yudkowsky, som nog anses vara alla "doomers" "sektledare".

Troligen myntat av någon autistiska tekniknörd som finner ett stort elitistiskt nöje i att utbrista: "Kreti och Pleti sa likadant när bilen ersatte hästen - eller när datorn ersatte skrivmaskinen - alltså är det ingen fara med AGI. OK Boomer, talk to the hand".

Om vi tappar kontrollen över AGI har vi kanske inget mer att "oroa" oss över efter det. Eftersom vi inte lever. Är det så du menar?

Ja, beteendevetenskap är inte lika "exakt" som matematik eller fysik, och? Det hindrar inte att bereendevetarna kan ha rätt och att vi har stor nytta utav dem, (förutom av vissa radikallfeministiska forskare som sysslar mer med ideologi än vetenskap, vilket de, för övrigt, brukar kunna erkänna själva, då de ser all vetenskap som "ideologiskt färgad")

Sedan får du titta på mitt senaste svar till "Cyborg2030" där jag räknar upp sociala saker även hos dagens LLM.