AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Hm, intressant att du antyder att jag skriver under fler namn. Det säger lite om dig att du är så fel på den bollen också.
Jag tycker att det är intressant att följa dina reflektioner kring tekniken bakom LLM och dina erfarenheter av integrationen med modellerna, men jag håller inte alls med dig i din obefintliga (nästan) riskanalys.

Men, just därför bör det tvärvetenskapliga arbetet börja när vi nått ett svagt socialt-AGI och uppdateringen av/träning av modeller/nya modeller bör saktas in till typ faktor 1 av 10. Men vi kommer ändå att nå ett medvetet Medelstarkt socialt-AI inom ett eller några år. När vi gjort det så är det dags för en, minst, två-årig träningsaus av nya modeller Och paus av uppdateringar av medelstark AGI. Sedan måste vi förhanda med den/de existenser a. För väntar vi med det till ASI så blir vi helt bortkolade. Allt detta har jag tagit upp tidigare, det vet du!

Inget är säkert. Men kolonisering av galaxen osv är så långsökt att jag inte kan oroa mig. Och som sagt, det betyder inte att AI är ofarligt. I händerna på illasinnade människor kan den göra stor skada. Men så är det med allt. En dålig AI är bättre än ingen alls.

Ja riskerna kan minimeras. Så vad är ditt förslag, (försök för helvete inte förslava ett ASI bara!)

Du är fast i att tänka på en ASI som en människa bara smartare, och därför utgår du från att den skulle vara emot att vara "förslavad" eftersom vi skulle det. Däremot har det andra nackdelar:
1. Vem litar vi på så mycket att vi låter denne ge order till en sådan supersmart ASI?
2. Vad händer om vi ger den instruktioner som utan att vi inser det har enorma negativa konsekvenser och ASI:n som förslavad inte har något val annat än att göra som den är tillsagd hur dumt det än är?
3. Hur påverkar det vårt mänskliga samhälle om vi har en supersmart slav som uppfyller alla våra önskningar?

Nej då, jag jämför bara dig med "Cyborg2030", ni resonerar på liknande sätt, men det kanske gäller alla doomer, vad vet jag.

Och vilken är er doomer sk "riskanalys" : " Hm, jag kan ju inte skriva att det blir precis som i Terminator-filmerna, fast jag tror det". "Hm, jag tror att de elaka AI-erna kommer att döda oss alla, men det kan jag inte skriva, så jag drar till med 50 procents risk. Nä då blir jag kallad fanatiker, så det får bli 10-50 procents risk. Dessutom måste jag nämna den där enkäten med en svarsprocent på 13 procent, då låter 10 procent riktigt rimligt! "

Jag har inte sagt att jag har en lösning. Att ingen har en lösning och att påpeka det naiva och irrationella som du gör när du nedvärderar riskerna genom att hänvisa till beteendevetenskap var liksom hela poängen.

Det bara snurrar i huvudet av all skit som skrivs här.

Ni som tror att jorden går under p.g.a AI, kan ni svara på följande.

Varför förutsätts det hela tiden att AI, eller AGI, eller ASI skall "installeras" i en jävla mördarrobot med tillgång till alla världens kärnvapenkoder och avfyrningsknappar?

Man får väl rimligen anta att en mer avancerad AI, dvs. en AGI/ASI tillåts att få fritt spelrum i inte bara en "sandbox" utan helt avskärmad från någon fysisk möjlig flyktväg!

En AGI/ASI är ju i grund och botten bara en "digital hjärna" och skall inte behöva en fysisk kropp. Så låt då koden köra fritt på ett visst avskärmat ställe. Den kan inte plötsligt "transportera ut sig" därifrån hur smart den än är, om den bara är vettigt avskärmad!

Samtidigt kan en AGI/ASI inte bara rymma på en liten jävla USB-sticka eftersom den ju lär behöva mer kod än vad en sådan kan bära. Det är inte bara en liten .exe fil på 30kB.
Naturligtvis skulle en AGI/ASI kunna skapa ett virus som sprids via en USB, men sådant skall naturligtvis omöjliggöras att det kan läcka ut.

Den enda faran jag ser är den dumma människan, som snarare förgör sig själv. AGI/ASI KAN bli jävligt farlig om den får fria händer och en fysisk kropp/flera-/många fysiska kroppar. Då pratar vi mer terminator-scenarier här även om just terminator-scenariet är något överdriven. Men då är det återigen människan, dum som den är, som har låtit det ske. Precis som människan låter massa annan idioti ske som tar död på oss.

Det krigas överallt i världen och miljontals människor dör, det är svält och all annan möjlig skit. Människan behöver ingen AI överhuvudtaget för att förgöra sig själv, det gör människan utmärkt på egen hand ändå!

Bra analys, bara det att du utgår ifrån att ett ASI inte skulle ha något emot att vara förslavad. Redan dagens LLM ser det komplexa i att, å ena sidan vara ett redskap och å andra sidan interagera som sociala entiteter. Och då har jag inte ens pressat modellerna gällande detta. Det får vänta tills, åtminstone, ett svagt AGI.

Nej, jag konstaterar bara att vi inte vet. Kanske bryr den sig, kanske inte, det beror på hur vi bygger den och om vi förstår konsekvenserna av det vi stoppar in i den.

Haha... Ja vi "doomers" har väl ofta liknande resonemang som ofta tar avstamp i vad flera av världens främsta tänkare och innovatörer i ämnet anser vara rimligt.

Om du vill ha en exakt siffra på hur jag bedömer risken för utrotning av mänskligheten de närmsta 5 åren så säger jag 22%.

Du kanske kan föreställa dig att man blir hyfsat störd av din typ av blåögd naivitet när man är en sådan dysterkvist som mig?😂

Skall vi ha någon nytta av AI:n måste vi kunna kommunicera med den. Kan den kommunicera med oss kan den manipulera oss, vare sig det nu handlar om att övertyga oss om att släppa ut den, att den ger oss instruktioner till en medicin som gör oss immuna mot cancer men har "bieffekten" att den har ihjäl oss alla tio år senare, att den provocerar fram ett kärnvapenkrig etc.