1. Dator och IT
  2. AI - Artificiell intelligens

AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Svara
2024-06-06, 15:12
  #2269
Ola Schubert
Medlem
Ola Schuberts avatar
Citat:
Ursprungligen postat av Cyborg2030
Enligt Open AI-insidern Daniel Kokotajlo kommer vi ha AGI om 3 år, med 70% risk för att vår civilisation utrotas. Jag ser ingen anledning att ifrågasätta den här uppskattningen.
In an interview with The New York Times, former OpenAI governance researcher Daniel Kokotajlo accused the company of ignoring the monumental risks posed by artificial general intelligence (AGI) because its decision-makers are so enthralled with its possibilities.

"OpenAI is really excited about building AGI," Kokotajlo said, "and they are recklessly racing to be the first there."

Kokotajlo's spiciest claim to the newspaper, though, was that the chance AI will wreck humanity is around 70 percent — odds you wouldn't accept for any major life event, but that OpenAI and its ilk are barreling ahead with anyway.
https://futurism.com/the-byte/openai...0-percent-doom

Jag tycker att du bör läsa Roman Yampolskiys senaste bok heter "AI: Unexplainable, Unpredictable, Uncontrollable". Om inte annat för att du skall kunna börja utveckla din argumentation. Jag har börjat läsa gratisutdraget i Googles books ur boken och kommer nog att köpa den om det visar sig att Roman har något att tillföra vad gäller lösning av AI-anpassningsproblemet, och att han inte bara är en åskådaresom sitter vid sidan av och gnäller och larmar.
Citera
2024-06-06, 15:19
  #2270
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Jag betvivlar starkt att en avhoppad filosofiedoktorand har förmågan att bedöma hur snart vi kan ha AGI. 70 % sannolikhet för mänsklighetens undergång är också lika statistiskt underbyggt som att slicka på fingret och känna åt vilket håll det blåser.
Han är ju inte direkt ensam om att flagga för riskerarna med AGI.

Se t.ex
https://righttowarn.ai/
We also understand the serious risks posed by these technologies. These risks range from the further entrenchment of existing inequalities, to manipulation and misinformation, to the loss of control of autonomous AI systems potentially resulting in human extinction. AI companies themselves have acknowledged these risks [1, 2, 3], as have governments across the world [4, 5, 6] and other AI experts [7, 8, 9].
De här experternas röst väger mycket tyngre än dina löjliga invändningar.
Citera
2024-06-06, 15:33
  #2271
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av Ola Schubert
Jag tycker att du bör läsa Roman Yampolskiys senaste bok heter "AI: Unexplainable, Unpredictable, Uncontrollable". Om inte annat för att du skall kunna börja utveckla din argumentation. Jag har börjat läsa gratisutdraget i Googles books ur boken och kommer nog att köpa den om det visar sig att Roman har något att tillföra vad gäller lösning av AI-anpassningsproblemet, och att han inte bara är en åskådaresom sitter vid sidan av och gnäller och larmar.
Du kanske ska kolla upp dina källors huvudsakliga inriktning åtminstone innan du försöker använda de som motargument?

Eftersom du är för lat för det kan jag rekommendera den här långa intervjun med Yampolskiy:

https://youtu.be/NNr6gPelJ3E

Roman har mycket att tillföra i form av att brodera ut och fördjupa de olika aspekterna av de mest allvarliga riskerna med AI, dvs raka motsatsen till vad du trodde.



Han har ingen lösning - eftersom det inte finns någon teoretisk lösning på hur vi kan bli smartare än ASI och därmed kan kontrollera den. Ditt önsketänkande är fortfarande inte en lösning.
Citera
2024-06-06, 16:23
  #2272
erkki17
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Han är ju inte direkt ensam om att flagga för riskerarna med AGI.

Se t.ex
https://righttowarn.ai/
We also understand the serious risks posed by these technologies. These risks range from the further entrenchment of existing inequalities, to manipulation and misinformation, to the loss of control of autonomous AI systems potentially resulting in human extinction. AI companies themselves have acknowledged these risks [1, 2, 3], as have governments across the world [4, 5, 6] and other AI experts [7, 8, 9].
De här experternas röst väger mycket tyngre än dina löjliga invändningar.
Det kan säkert finnas risker med AGI, vissa säger 70 %, andra 50 % osv. Däremot spelar det mindre roll hur stor den risken är om sannolikheten att vi når AGI är nära noll.

Det är ingen som kan redogöra för varför risken är just si och så många procent, utan den siffran är tagen helt ur luften.

Det är heller ingen av dessa visselblåsare som med någon säkerhet kan förutspå när vi når AGI. Säg mig varför jag ska lyssna på någon som Kokotajlo över experter som LeCun eller Bengio?
Citera
2024-06-06, 16:30
  #2273
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Det kan säkert finnas risker med AGI, vissa säger 70 %, andra 50 % osv. Däremot spelar det mindre roll hur stor den risken är om sannolikheten att vi når AGI är nära noll.

Det är ingen som kan redogöra för varför risken är just si och så många procent, utan den siffran är tagen helt ur luften.

Det är heller ingen av dessa visselblåsare som med någon säkerhet kan förutspå när vi når AGI. Säg mig varför jag ska lyssna på någon som Kokotajlo över experter som LeCun eller Bengio?
Frågan är snarare varför du cherry-pickar två kända experter och ungefär de två enda experterna som är skeptiska till x-risk. Nästan alla andra experter inkl stora företag som Google och Open AI erkänner fullt ut att det finns en x-risk, OCH att deras mål är AGI, ett mål som de också tror att de kommer att lyckas med. Skit samma om det tar 3 eller 30 år. Det är ju ingenting jämfört med däggdjurens historia på planeten. Varför struntar du i allt detta och handplockar dessa två filurer?
Citera
2024-06-06, 16:38
  #2274
erkki17
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Frågan är snarare varför du cherry-pickar två kända experter och ungefär de två enda experterna som är skeptiska till x-risk. Nästan alla andra experter inkl stora företag som Google och Open AI erkänner fullt ut att det finns en x-risk, OCH att deras mål är AGI, ett mål som de också tror att de kommer att lyckas med. Skit samma om det tar 3 eller 30 år. Det är ju ingenting jämfört med däggdjurens historia på planeten. Varför struntar du i allt detta och handplockar dessa två filurer?
Dessa två "filurer" är några av världens mest framstående AI-forskare. Ingen av dem säger att AGI inte skulle innebära risker, men däremot tror de inte att den faran ligger och lurar precis runt hörnet.

Jag kan vända på frågan och undra varför du inte väljer att lyssna på alla välkända forskare som inte delar din världsbild?
Citera
2024-06-06, 16:41
  #2275
erytmenus-o
Bannlyst
Om AI får eget medvetande och beslutar om mänskligheten då kan det vara kastrof eller skyddar det oss. Vi vet inte. Men som det är nu sitter woke-människor och programerar AI emot vårt folk hela tiden i det "semitiska" lol woke Kalifornien, det är det första hotet. Tänk på det först, och det andra hotet. Ja, släpp inte lös nån demon här i världen.
__________________
Senast redigerad av erytmenus-o 2024-06-06 kl. 16:44.
Citera
2024-06-06, 17:17
  #2276
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
Dessa två "filurer" är några av världens mest framstående AI-forskare. Ingen av dem säger att AGI inte skulle innebära risker, men däremot tror de inte att den faran ligger och lurar precis runt hörnet.

Jag kan vända på frågan och undra varför du inte väljer att lyssna på alla välkända forskare som inte delar din världsbild?
Det är inte "en världsbild" att forma en välinformerad åsikt i ett specifikt ämne.
Jag har lyssnat på LeCunn, men jag tycker inte att han har något vettigt att tillföra här.
Han är förmodligen färgad i sin chefsroll som går ut på att Meta/Facebook ska bli framgångsrika med AI-gimmicks i sina appar. Och det blir ju mycket svårare för honom om myndigheterna börjar bromsa utvecklingen pga x-risk. Han är på det viset mycket lik Sam Altman. Denna monumentala intressekonflikt hittar du inte hos exempelvis Yudkowsky eller Yampolskiy som forskar på AI helt oberoende av något tech-bolags vinstintresse.
Citera
2024-06-06, 18:32
  #2277
erkki17
Medlem
Citat:
Ursprungligen postat av Cyborg2030
Det är inte "en världsbild" att forma en välinformerad åsikt i ett specifikt ämne.
Jag har lyssnat på LeCunn, men jag tycker inte att han har något vettigt att tillföra här.
Han är förmodligen färgad i sin chefsroll som går ut på att Meta/Facebook ska bli framgångsrika med AI-gimmicks i sina appar. Och det blir ju mycket svårare för honom om myndigheterna börjar bromsa utvecklingen pga x-risk. Han är på det viset mycket lik Sam Altman. Denna monumentala intressekonflikt hittar du inte hos exempelvis Yudkowsky eller Yampolskiy som forskar på AI helt oberoende av något tech-bolags vinstintresse.
LeCun och Altman är 0 % lika. LeCun satsar helhjärtat på V-JEPA som är vad han tror kommer att ta AI till nästa steg och därmed närmare AGI. Han är inte alls inblandad i arbetet med Llama eller deras övriga AI-produkter.

Jag kan hålla med dig om att riktig AGI, eller kanske hellre ASI mycket möjligt skulle kunna skada mänskligheten, men jag tror inte att vi alls är nära sådana framsteg. Jag vidhåller också att bland andra LeCun och Bengio är bättre källor än några filosofer eller beteendevetare när det kommer till teknologin och dess begränsningar.

Att du kallar LeCun och Bengio för filurer medan du lutar dig emot Yudkowsky och Yampolsky är bara skrattretande.

Har du hört talas om begreppet konfirmeringsbias? Du lyssnar hellre på pseudovetenskap som bekräftar din egna oro snarare än på riktiga vetenskapsmän med decennier av erfarenhet inom området och som faktiskt bidragit till den utveckling vi haft de senaste åren.
Citera
2024-06-06, 20:38
  #2278
Cyborg2030
Medlem
Cyborg2030s avatar
Citat:
Ursprungligen postat av erkki17
LeCun och Altman är 0 % lika. LeCun satsar helhjärtat på V-JEPA som är vad han tror kommer att ta AI till nästa steg och därmed närmare AGI. Han är inte alls inblandad i arbetet med Llama eller deras övriga AI-produkter.

Jag kan hålla med dig om att riktig AGI, eller kanske hellre ASI mycket möjligt skulle kunna skada mänskligheten, men jag tror inte att vi alls är nära sådana framsteg. Jag vidhåller också att bland andra LeCun och Bengio är bättre källor än några filosofer eller beteendevetare när det kommer till teknologin och dess begränsningar.

Att du kallar LeCun och Bengio för filurer medan du lutar dig emot Yudkowsky och Yampolsky är bara skrattretande.

Har du hört talas om begreppet konfirmeringsbias? Du lyssnar hellre på pseudovetenskap som bekräftar din egna oro snarare än på riktiga vetenskapsmän med decennier av erfarenhet inom området och som faktiskt bidragit till den utveckling vi haft de senaste åren.

LeCun är framför allt känd för computer vision-mjukvara där han gjorde vissa framsteg på 90-talet. Han är nog bitter nu när det visade sig att transformerbaserad AI från den nya skolan kunde göra OCR-skanning mycket bättre än de dammiga algoritmer som han har snickrat på i tre decennier förmodligen i Fortran eller Algol 60. Han är inte känd för något inom forskning om AGI, som han vägrar tro är möjligt. Så ja, det är verkligen skrattretande att jämföra honom med riktiga AI-forskare.
Citera
2024-06-06, 20:56
  #2279
BeneathTheSurface
Medlem
BeneathTheSurfaces avatar
Citat:
Ursprungligen postat av Cyborg2030
LeCun är framför allt känd för computer vision-mjukvara där han gjorde vissa framsteg på 90-talet. Han är nog bitter nu när det visade sig att transformerbaserad AI från den nya skolan kunde göra OCR-skanning mycket bättre än de dammiga algoritmer som han har snickrat på i tre decennier förmodligen i Fortran eller Algol 60. Han är inte känd för något inom forskning om AGI, som han vägrar tro är möjligt. Så ja, det är verkligen skrattretande att jämföra honom med riktiga AI-forskare.

LeCun, Benigo och Hinton var alla med inom detta (men utelämnade att de stal arbetet från Schmithuber).

Och det du i övrigt svamlar om (som visserligen är din modus operandi) är helt fel, för övrigt var det inte du som jämförde LeCun med Altman för bara några poster sedan och postat artiklar till allt från etik-"experter", slumpmässiga clickbaits och idioter med psykos? Du har ju inte en jävla koll på några "riktiga AI forskare" överhuvudtaget.
Citera
2024-06-07, 06:01
  #2280
erkki17
Medlem
Citat:
Ursprungligen postat av Cyborg2030
LeCun är framför allt känd för computer vision-mjukvara där han gjorde vissa framsteg på 90-talet. Han är nog bitter nu när det visade sig att transformerbaserad AI från den nya skolan kunde göra OCR-skanning mycket bättre än de dammiga algoritmer som han har snickrat på i tre decennier förmodligen i Fortran eller Algol 60. Han är inte känd för något inom forskning om AGI, som han vägrar tro är möjligt. Så ja, det är verkligen skrattretande att jämföra honom med riktiga AI-forskare.
"Riktiga AI-forskare"?
Är man en "riktig AI-forskare" om man sitter och pratar med en LLM för att se om den visar tecken på medvetenhet? Är man en "riktig AI-forskare" om man läst en massa sci-fi och sedan viftar lite med handen och säger att det är 70 % sannolikhet att AI blir vår undergång?

Eller är man en "riktig AI-forskare" om man uppfinner nya algoritmer som ligger till grund för neutrala nätverk och den AI vi har idag?

Säg mig, vad har dina idoler bidragit med, rent konkret?
Alltså något som inte enbart är baserat på känslor och antaganden?
Citera
Svara

Skapa ett konto eller logga in för att kommentera

Du måste vara medlem för att kunna kommentera

Skapa ett konto

Det är enkelt att registrera ett nytt konto

Bli medlem

Logga in

Har du redan ett konto? Logga in här

Logga in