Citat:
Ursprungligen postat av
ErikHae86
Du har rätt i tre saker, och det är just därför resten av inlägget blir så märkligt.
Ja, Musk har lovat självkörande bilar ”nästa år” fler gånger än någon orkar räkna. Ja, Altman är företagsledare, inte AI-forskare. Ja, VD:ar har uppenbara PR- och affärsincitament.
Grattis. Du har upptäckt att företagsledare är företagsledare.
Problemet är att argumenten om allvarlig AI-risk inte står och faller med Musk, Altman eller Amodei. Du har valt tre personer som är enkla att angripa och sedan låtsats att du därmed har avfärdat själva forskningsfrågan.
Geoffrey Hinton fick Nobelpriset 2024 för grundläggande arbete bakom artificiella neurala nätverk. Han lämnade Google redan 2023 för att kunna tala friare om AI-riskerna.
Yoshua Bengio, en av världens ledande AI-forskare, leder International AI Safety Report. 2026 års rapport skrevs av över 100 experter och stöds av mer än 30 länder och internationella organisationer.
Stuart Russell är medförfattare till Artificial Intelligence: A Modern Approach, AI-läroboken som används vid över 1 500 universitet.
Och i den största forskarenkäten av sitt slag svarade 2 778 personer som publicerat vid ledande AI-konferenser. Medianbedömningen låg runt 5 % för att avancerad AI skulle kunna orsaka mänsklig utrotning eller ett jämförbart permanent katastrofalt utfall.
Sedan har vi din bästa formulering: Amodei har ”misslyckats med säker AI” eftersom hans eget företag hittar säkerhetsproblem i sina modeller.
Fundera på den logiken en gång till.
Om ett AI-labb testar sina system, hittar kvarvarande farliga beteenden och publicerar resultaten är slutsatsen inte att ”risken alltså var påhittad”. Slutsatsen är att säkerhetsproblemet ännu inte är löst.
Vill du argumentera för att riskerna är kraftigt överdrivna får du börja bemöta evidensen och riskmekanismerna: autonomi, cyberkapacitet, biologiskt missbruk, deception, reward hacking och loss of control.
Och varför är geffory hinton en auktoritet? Han har inte jobbat med språkmodeller alls undantaget lite generellt rådgivande under sin tid på google.
Hade du sagt Yoshua Benigo ja han har praktiskt erfarenhet, dessutom en av de som populariserade attention.
Samtidigt har du LeCun, Andrew Ng mfl som forskat och arbetat på det i evigheter som totalt avfärdar och helt riktigt påpekar de totalt uppenbara bristerna i den teknik vi har nu.
Den stora majoriteten är folk som är anställda för ”AI alignment”, det ligger i deras intresse att tekniken är farlig annars är de arbetslösa. Varför slutar de då? De får ju jättebra betalt osv brukar det heta. Ja vad fan tror du? De är inte dumma i huvudet, de vet det inte går ”aligna” en slumptalsgenerator, de är ett omöjligt uppdrag och då är det lättare att tjäna pengar på att vara visselblåsare och göra föredrag, intervjuer osv.
