AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Verkligen intressant när "de stora elefanterna" avlossar sin ammunition:

Här LeCun:

"Altman, Hassabis, and Amodei are the ones doing massive corporate lobbying at the moment.
They are the ones who are attempting to perform a regulatory capture of the AI industry.
You, Geoff, and Yoshua are giving ammunition to those who are lobbying for a ban on open AI R&D.

If your fear-mongering campaigns succeed, they will *inevitably* result in what you and I would identify as a catastrophe: a small number of companies will control AI.

The vast majority of our academic colleagues are massively in favor of open AI R&D. Very few believe in the doomsday scenarios you have promoted.
You, Yoshua, Geoff, and Stuart are the singular-but-vocal exceptions..... "

Det har fortsatt idag också.. och baserat på svaren bland de kända som skrivit har inte enda backat upp Max, tvärtom blir han anklagad för att vara falsk, medvetet ljuga och använda ad hominem mot Yann.

Jag tycker det visar sitt tydliga språk vad ”majoriteten av forskarna” anser om hela denna debatt.

Summerat av GPT-4 om bakgrund för deltagarna i kommentarsfältet (som alltså samtliga stödjer Yann LeCuns syn och debatt).

• Pedro Domingos är professor i datavetenskap vid University of Washington. Han har gjort betydande bidrag till området maskininlärning, inklusive arbete på unifying learning algorithms och utveckling av markov logic networks. Domingos är författare till "The Master Algorithm", en populärvetenskaplig bok som beskriver sökandet efter en enda algoritm som kan lära av någon form av data.
  
• Yann LeCun är en framstående forskare inom maskininlärning, datorseende, mobila robotar och datorkomprimering. Han är Silver Professor vid New York University och var till 2021 chef för Facebook AI Research. LeCun är en pionjär inom konvolutionella nätverk, en viktig teknik inom djupinlärning. Han tilldelades Turing Award 2018 tillsammans med Yoshua Bengio och Geoffrey Hinton för deras arbete inom djupinlärning.
  
• Naveen Rao är en datoringenjör och entreprenör. Han var medgrundare och VD för Nervana Systems, ett företag som specialiserade sig på artificiell intelligens och som köptes av Intel 2016. Efter förvärvet blev Rao chef för Intels AI-produkter. Han har en Ph.D. i neurovetenskap från Brown University och en M.S. i datavetenskap från University of California, San Diego.
  
• Irina Rish är en AI-forskare vid IBM's Thomas J. Watson Research Center. Hennes forskning inkluderar maskininlärning, neuronnät, och AI förklarbarhet och transparens. Rish har publicerat många framstående artiklar inom dessa områden. Hon har en Ph.D. i datavetenskap från University of California, Irvine.
  
• Christopher Nguyen är en teknikledare och entreprenör. Han har arbetat på Google, där han var teknisk ledare och Engineering Director. Nguyen var medgrundare och VD för Arimo, ett företag inom prediktiv analys. Han har en Ph.D. i elektroteknik och datavetenskap från University of California, Berkeley.

Nu uttalar sig Andrew Ng också, precis som det spekulerats om tidigare i trådarna så anser han att det är av konkurrens anledningar som OpenAI slagit på säkerhetsfrågan, det är bara att vänta på att det avslöjas att de fåtal andra "oberoende" visar sig vara finansierade av djupa fickor, Max Tegmarks Future for Life är redan känt sponsrad av Elon Musk.

"Sam [Altman] was one of my students at Stanford. He interned with me. I don’t want to talk about him specifically because I can’t read his mind, but …I feel like there are many large companies that would find it convenient to not have to compete with open-sourced large language models"

https://www.afr.com/technology/google-brain-founder-says-big-tech-is-lying-about-ai-human-extinction-danger-20231027-p5efnz

Oroa dig inte om AI. Var mer rädd för vad vi människan kan göra mot oss själva.

Nu jäklar går Pedro Domingos lös

https://x.com/pmddomingos/status/1719293357061505478?s=20

"The psychology of AI alarmists:

Elon Musk: Savior complex. Needs something to save the world from.

Geoff Hinton: Ultra-leftist, world-class eccentric.

Yoshua Bengio: Hopelessly naive idealist.

Stuart Russell: His only impactful application ever was to nuclear test monitoring. Fixated on nuclear analogies and regulation ever since.

Max Tegmark: Shallow, opportunist, publicity seeker.

Yuval Harari: Clueless purveyor of vacuous nonsense.

Eliezer Yudkowsky: Has a screw loose."

Onödigt att gå till rena personangrepp, förutom mot Yudkowsky, för han måste verkligen ha en skruv lös!

Precis, det är det som är det riktiga hotet när det gäller ai, vad människor kommer göra med det. AI kommer aldrig bli självmedveten, den kommer bli väldigt bra på att imitera att vara självmedveten, men den kommer aldrig vara det.

Trist och platt vinkling du gör här. Klart som f-n att det finns enorma risker med AI/AGI. Sådana här enkelspåriga sågningar av erkända genier blir lite löjeväckande om du ska driva någonslags "case"

Sen är jag väldig positiv med ai med att man kan få Ocensurade informationen men EU och FN kommer förhindra detta med att censurera alltihop med bara en sanning och det är jag mest rädd för.

Vad yrar du om egentligen?

Ja en fri ai hade jag också varit positiv till, tyvärr så tror jag att skrämselpropagandan mest är till för just rättfärdiga att göra den mer toppstyrd och mindre fri, och det är precis det vi ser. AI kommer främst bli ett propaganda verktyg till för kontroll och styra människor.

Om man seriöst tror på skrämselpropaganda så ska man stoppa utvecklingen och inget annat.

Hur skulle AI ge dig mer ocensurerad information? Den plockar ju bara fram vad som redan finns på nätet.