AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Jag vet inte vad som menas med att nå singularitet och vad som krävs för att nå dit. Men jag ser helt enkelt inte att den kan få ett medvetande med den teknik som används idag. Då är singulariteten bara en fantasi och har inget med dagens AI att göra egentligen. Då måste man skapa något nytt först.

Naiv much!

Nej mina tankar om vad man kan göra är väl egentligen bara att få igång en diskussion om det.
Om vi har tur så ligger singulariteten fortfarande flera år bort, och då har människan ännu tid att åtminstone komma upp med någon liten försvarsplan, även om det lär vara förgäves.

Ärligt talat tror jag att vår bästa chans är att det sker en större katastrof med någon form av AI vid ratten, där det dör en jävla massa folk. Kanske krävs det miljontals?
Då skulle frågan garanterat komma högst upp på agendan, och rigorösa säkerhetsapparater skulle börja byggas. Jag tror att det är vår bästa chans.

Det enda du och jag kan göra är att diskutera frågan, och försöka få andra att förstå hur viktig den är för mänskligheten.
Kunde man transformera hela "västs" klimatångest - till AI-ångest i stället, så skulle det vara en hyfsad början.
Personligen tror jag att AI är en 1000 ggr större fara för mänsklighetens fortlevnad än vad klimatet är.

Men den har inget eget intresse. Den har ingen vilja eller åsikt om vad den vill och kan inte ha det då den inte är medveten. Det är som att tro på fantasier om att miniräknare planerar att ta över världen.

Människan kommer alltid att styra utvecklingen av AI. Vad är det för jävla trams att vi skulle bli utrotade av AI.

AI tar över internet först. Sen massa servrar och skit och börjar jiddra med produktionsrobotar och stänger ner hela skiten. Men vi har väl ett vapen eller? Stäng av elen. AI måste lära sig att replikera sig själv. Och sätta igång en produktion av repliker. Givetvis. AI måste skaffa sig en fysisk kropp helt enkelt. Infiltrera osv.

Jag tror vi ligger ganska långt borta från det just nu. Men vem vet.

Hade genetisk dominans vart deras mål så hade dom väl infiltrerat varenda spermabank?

Jag har hellre AI som ledare än dagens usla skitledare.
Ifall AI skulle försöka att slå ut hela mänskligheten så vore det i alla fall rättvist, och juste, mänskligheten borde ha kommit otroligt mycket längre, inte bara underkänt för dom infantila ledarna, utan också för medborgarna som har accepterat dessa underpresterade skitpåsar som ledare.

Jag är inte naiv, jag är insatt. Vad du är, är svårt att veta.
De som tror att de ska få medvetande och planera att ta över världen, förstår nog inte riktigt vad det handlar om.
Däremot finns det stora faror med dem, beroende hur människor utnyttjar dem.

Ett exempel med ChatGPT är att man använder PK-filter så den inte säger fel saker. Men om människor då tror att allt den säger är sant, kan man använda det för att få människor att tro på saker som inte är sanna och därmed styra dem politiskt. Något som faktiskt sker just nu.

Så kan det vara. Men glöm inte att schimpansen aldrig har haft chansen att påverka oss i någon riktning.
Jag tänker mig att värderingarna som vi präntar in i AI:n baseras på bland annat Black Life Matters, Vänsterpartiets partiprogram, samt svenska kyrkans värdegrund.

Nej jag skämtar bara. Det skulle nog bli elakartat. Jag tänker mig att grundplattan i all programmering borde handla om att tjäna människans bästa. D.v.s att allt AGI:n är intresserad av är att föra mänskligheten framåt, mot en högre levnadsstandard.

Det hela är nog väldigt komplicerat, och troligen ogenomförbart.

Du tror alltså att utvecklingen avstannat. Eller förstår du inte vad du själv skriver.

Jag tror faktiskt att AI kommer innebära världsfred. Vi kommer komma till den punkten där vi kommer behöva samarbeta för att inte bli utrotade av AI. På vägen dit kommer det enda viktiga vara att vi är människor och det som skiljer oss från AI.

När vi lyckats tämja AI har vi förenats till ett civiliserat folk på vägen dit, därifrån kan vi låta AI arbeta för oss medan vi avsätter hierarkier och stater. Vi kommer uppnå den fulla kommunismen. Solen går ner i öst, himlen är röd. Amen.

Sen kommer hunden in och alla börjar applådera.

Det här med AI grejer låter skrämmande ibland, men jag tror fortfarande och har gjort länge, att vi utrotar oss själva via krig eller liknande.