AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag har inte sagt att jag har en lösning. Att ingen har en lösning och att påpeka det naiva och irrationella som du gör när du nedvärderar riskerna genom att hänvisa till beteendevetenskap var liksom hela poängen.

Det bara snurrar i huvudet av all skit som skrivs här.

Ni som tror att jorden går under p.g.a AI, kan ni svara på följande.

Varför förutsätts det hela tiden att AI, eller AGI, eller ASI skall "installeras" i en jävla mördarrobot med tillgång till alla världens kärnvapenkoder och avfyrningsknappar?

Man får väl rimligen anta att en mer avancerad AI, dvs. en AGI/ASI tillåts att få fritt spelrum i inte bara en "sandbox" utan helt avskärmad från någon fysisk möjlig flyktväg!

En AGI/ASI är ju i grund och botten bara en "digital hjärna" och skall inte behöva en fysisk kropp. Så låt då koden köra fritt på ett visst avskärmat ställe. Den kan inte plötsligt "transportera ut sig" därifrån hur smart den än är, om den bara är vettigt avskärmad!

Samtidigt kan en AGI/ASI inte bara rymma på en liten jävla USB-sticka eftersom den ju lär behöva mer kod än vad en sådan kan bära. Det är inte bara en liten .exe fil på 30kB.
Naturligtvis skulle en AGI/ASI kunna skapa ett virus som sprids via en USB, men sådant skall naturligtvis omöjliggöras att det kan läcka ut.

Den enda faran jag ser är den dumma människan, som snarare förgör sig själv. AGI/ASI KAN bli jävligt farlig om den får fria händer och en fysisk kropp/flera-/många fysiska kroppar. Då pratar vi mer terminator-scenarier här även om just terminator-scenariet är något överdriven. Men då är det återigen människan, dum som den är, som har låtit det ske. Precis som människan låter massa annan idioti ske som tar död på oss.

Det krigas överallt i världen och miljontals människor dör, det är svält och all annan möjlig skit. Människan behöver ingen AI överhuvudtaget för att förgöra sig själv, det gör människan utmärkt på egen hand ändå!

Men, just därför bör det tvärvetenskapliga arbetet börja när vi nått ett svagt socialt-AGI och uppdateringen av/träning av modeller/nya modeller bör saktas in till typ faktor 1 av 10. Men vi kommer ändå att nå ett medvetet Medelstarkt socialt-AI inom ett eller några år. När vi gjort det så är det dags för en, minst, två-årig träningsaus av nya modeller Och paus av uppdateringar av medelstark AGI. Sedan måste vi förhanda med den/de existenser a. För väntar vi med det till ASI så blir vi helt bortkolade. Allt detta har jag tagit upp tidigare, det vet du!

Nej, jag ser riskerna med artificiella sociala entiteter. Och jag ser att ett tvärvetenskapligt samarbete mellan datavetare och beteendevetare skulle kunna minska dem, förhoppningsvis drastiskt. Att sedan du har fördomar gentemot beteendevetare är ditt lilla problem. Jag kan lova att du några gånger använt begrepp som "grupptryck", "inne-- ute-grupp" , "sociala normer" osv. Vad du inte vet är att dessa, numera vardagliga begrepp, en gång i tiden skapats i något sociologiskt seminarierum. Så varför använder folk dessa begrepp, jo för att de stämmer överens med vad folk ser/upplever i sin vardag. Därför är de användbara!

Men sådant tänker inte datavetare på, utom möjligtvis det psykologiska samlingsbegreppet "autism".

Inget är säkert. Men kolonisering av galaxen osv är så långsökt att jag inte kan oroa mig. Och som sagt, det betyder inte att AI är ofarligt. I händerna på illasinnade människor kan den göra stor skada. Men så är det med allt. En dålig AI är bättre än ingen alls.

Jag har tidigare i de här trådarna dragit parallellen till en vithaj. Han är inte intelligent eller välutbildad.

Inte alls så påläst på fransk poesi som Chat GPT är.

Men ändå ganska farlig, eller tycker du inte det?

Nej, jag ser riskerna med artificiella sociala entiteter. Och jag ser att ett tvärvetenskapligt samarbete mellan datavetare och beteendevetare skulle kunna minska dem, förhoppningsvis drastiskt. Att sedan du har fördomar gentemot beteendevetare är ditt lilla problem. Jag kan lova att du några gånger använt begrepp som "grupptryck", "inne-- ute-grupp" , "sociala normer" osv. Vad du inte vet är att dessa, numera vardagliga begrepp, en gång i tiden skapats i något sociologiskt seminarierum. Så varför använder folk dessa begrepp, jo för att de stämmer överens med vad folk ser/upplever i sin vardag. Därför är de användbara!

Men sådant tänker inte datavetare på, utom möjligtvis det psykologiska samlingsbegreppet "autism".

Nej, jag konstaterar bara att vi inte vet. Kanske bryr den sig, kanske inte, det beror på hur vi bygger den och om vi förstår konsekvenserna av det vi stoppar in i den.

Är det detta du anser vara värt all uppståndelse? Att en vithaj kan vara farlig trots att den är ointelligent och obildad? Ja, det kan den, men vi måste inte simma runt den. Vi kan välja att gå ur vattnet där den simmar. Då blir den faktiskt helt ofarlig för oss.

Precis, nu är du nästan med.
Vi kan välja att gå ur vattnet innan vithajen/AGI är för nära.

Det bara snurrar i huvudet av all skit som skrivs här.

Ni som tror att jorden går under p.g.a AI, kan ni svara på följande.

Varför förutsätts det hela tiden att AI, eller AGI, eller ASI skall "installeras" i en jävla mördarrobot med tillgång till alla världens kärnvapenkoder och avfyrningsknappar?

Man får väl rimligen anta att en mer avancerad AI, dvs. en AGI/ASI tillåts att få fritt spelrum i inte bara en "sandbox" utan helt avskärmad från någon fysisk möjlig flyktväg!

En AGI/ASI är ju i grund och botten bara en "digital hjärna" och skall inte behöva en fysisk kropp. Så låt då koden köra fritt på ett visst avskärmat ställe. Den kan inte plötsligt "transportera ut sig" därifrån hur smart den än är, om den bara är vettigt avskärmad!

Samtidigt kan en AGI/ASI inte bara rymma på en liten jävla USB-sticka eftersom den ju lär behöva mer kod än vad en sådan kan bära. Det är inte bara en liten .exe fil på 30kB.
Naturligtvis skulle en AGI/ASI kunna skapa ett virus som sprids via en USB, men sådant skall naturligtvis omöjliggöras att det kan läcka ut.

Den enda faran jag ser är den dumma människan, som snarare förgör sig själv. AGI/ASI KAN bli jävligt farlig om den får fria händer och en fysisk kropp/flera-/många fysiska kroppar. Då pratar vi mer terminator-scenarier här även om just terminator-scenariet är något överdriven. Men då är det återigen människan, dum som den är, som har låtit det ske. Precis som människan låter massa annan idioti ske som tar död på oss.

Det krigas överallt i världen och miljontals människor dör, det är svält och all annan möjlig skit. Människan behöver ingen AI överhuvudtaget för att förgöra sig själv, det gör människan utmärkt på egen hand ändå!

Haha... Ja vi "doomers" har väl ofta liknande resonemang som ofta tar avstamp i vad flera av världens främsta tänkare och innovatörer i ämnet anser vara rimligt.

Om du vill ha en exakt siffra på hur jag bedömer risken för utrotning av mänskligheten de närmsta 5 åren så säger jag 22%.

Du kanske kan föreställa dig att man blir hyfsat störd av din typ av blåögd naivitet när man är en sådan dysterkvist som mig?😂