AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Här är man borta drygt en månad och diskussionerna är där man lämnade. Är vi närmare en lösning?

Eller bara inte tillräckligt testad, men det har ju aldrig hänt förut att det gått fel när man lanserat produkter. Speciellt inte när det räcker med att en prototyp går fel för att det skall vara kört.
Hur perfekta menar du program som ChatGPT är? Förvisso är felen idag mer underhållande än farliga, men tillräckligt testade är de inte.
Lite dåligt minne om tidigare inlägg?

Det jag uttryckte var att det spelar ingen roll vad man bestämmer så kommer det finnas buggar, det är omöjligt att förhindra om det gått hade det varit löst sedan länge.
Varför skulle en prototyp som går fel göra det kört? Tror du att man testar teknik direkt mot internet?
Tror du man ansluter prototyper till NORAD, energistyrning osv?

Det du refererar till som underhållande fel är inte buggar, det är tekniska begränsningar i nuvarande teknik.
Jag har hela tiden hävdat det är opålitlig teknik och inte i närheten av någon AGI.

Tydligen har jag det, jag ser inte relevansen alls.

Allt har blivit värre.

Progress på AGI ≈ 95% (Q* + GPT)
Progress på AI Alignment < 1%

Transparens/insyn i "Open" AI trodde vi var bra men nu vet vi att de har många hemligheter och lik i garderoberna.

P(doom) 25-75%

https://www.goldmansachs.com/intelligence/pages/nvidia-ceo-huang-urges-faster-ai-development-to-make-it-safer.html

Jensen Huang uppmanar till än snabbare AI utveckling (kan man gissa någon vill sälja GPUer?)

Fast, då är det återigen, som jag säger, människans fel. Låter människan sig manipuleras så får människan skylla sig själv.

Är du helt mentalt frånvarande eller har du bara fått hjärnblödning och tuppat av halv om halvt?

Du kan väl utveckla det du svamlar om så det du skriver blir förståeligt?

Jag har ärligt talat svårt att se hur en AI skulle kunna manipulera människan (som helhet, inte så kallade idioter).
Vad skulle de möjligtvis kunna göra? Intelligenta människor är skeptiska av naturen, skepsis innebär inte motarbetande eller från skjutande utan grundade i bevis.

Det enda jag kan tänka mig är om AI skulle på något sätt kunna infiltrera kommunikationskanaler och tex ringa upp dig med din frus, mammas, pappas, bror, systers röst eller dyl men det lär bara fungera en kort stund innan alla är uppmärksammade på det.
(Förövrigt redan vad scammers håller på med fast på SMS)

Tillägg: det lär inte fungera på en kritisk system verksamhet oavsett vilket det finns redan etablerade rutiner för i fall någon skulle få information om ett dödsfall i familjen eller dyl och jag kan garantera att inga missiler lär avfyras oavsett om mamma ringer och ber vakthavande attackera Ryssland.

Det är väl inte så få?
Sverige är ett mycket bra exempel! Svenskar är med stor sannolikhet det bästa exemplet i världen på ett folk som aktivt arbetar för sin egen undergång.

Övriga Europa, V4-länderna borträknat, ligger tätt efter i idioti. Först går Sverige under, sen följer nog resten av väst-EU tätt efter.



Atomvapen borträknat blir det ju extremt svårt att utrota mänskligheten utan att AI har något fysiskt att sätta emot. Vad skall den göra? Ta död på alla människor med ett virus den har skapat? Sen då? Skall AI leva kvar i sin enorma "dator" och vara cool? Med bara apor och andra djur, fiskar, insekter och annat skit som kvarstår? Skall dessa djur och annat hålla igång elproduktionen för AI så den kan fortsätta finnas? Eller hur tänkte du där?

Människan behövs för att AI skall kunna ta fysisk form så den kan ersätta människan, och så att den kan reproducera sig själv.

Du kanske borde läsa det jag skriver istället för att bara svara med slumpmässiga ord och meningar taget ur luften?

Varför skulle AI vilja utrota mänskligheten bara hux flux? Jag är nog en av de få som menar att så inte är fallet, och OM den nu skulle vilja det, så är det människan som möjliggör så att den kan det, dvs. människan utrotar sig själv.

Här har du väldigt, väldigt fel. Du har en allt för optimistisk tro om människans intelligens och mentala kapacitet. Det är bara till att titta på hur världen ser ut så märker du.

Du kan även se i liten skala, exempelvis i Sverige, hur svenskar bäddar för sin egen undergång, och då har vi ändå varit ett av världens rikaste länder och räknas som ett av världens bästa länder. Nu är Sverige bara en jävla soptipp. EU är inte långt efter i idiotin.

Sen har du mycket annat skit i världen och det blir bara värre och värre. Idiotin bara växer och växer.

Ena sekunden pratar världsledarna om att vi måste värna om miljön och så vidare, nästa sekund skall det skitas ut mobiltelefoner i många tusental varje minut, mobiltelefoner som likväl kan slängas i soporna så fort batteriet har gått åt helvete. ALLT för att man skall konsumera mer, vilket i sin tur leder till ännu mer miljöförstöring.

Tala inte om att människan är intelligent. Människan är en jävla idiot i regel. Hade människan över lag varit så jävla intelligent så hade inte världen sett ut så rutten som den gör. Det hade bott kanske ett par miljarder människor på jorden på sin höjd, och alla hade levt i stort sett i harmoni.

Det som man kallar för "paradis" hade varit normen.

Men människan är tyvärr inte så intelligent och det hjälper inte att procentuellt några få fattar och har hjärna nog att skapa en bra värld, när 99,999% inte fattar ett jävla dugg av det.

Jag förstår vad du menar på vissa plan men jag har inte en så dystopisk vy, jag är mer övertygad om det du berör handlar till betydligt större del om konflikträdsla än brist på intelligens.