Citat:
Ursprungligen postat av
Ed-Dearborn
Alla eller åtminstone de flesta av de personer jag refererar till har extremt god koll på frontier AI models development, tycker du Stuart Russel och Max Tegmark, Paul Christiano och Yoshua Bengio inte förstår risker. Är inte Dario Amodei, CEO för Anthropics, orolig just för de insåg att Mythos bara en logiskt steg på vägen mot AGI och senare ASI. Vet du vad Connor Leahys företag Conjecture gör...?
Tristan Harris intervjuar alla viktiga CEO:s i The AI Doc.., utom Elon.
Du låter som en kompis till mig som skrattade åt debatten om p(doom) - eller i bästa fall the end of capitalism - med kommentaren "jag har gått en kurs".
Det är gulligt eller något... att du har lärt dig namnen på hela ai domedagssekten, men att rada upp dem på ett pärlband gör det inte ett dugg mer imponerande, de flesta vet redan vilka som spelar roll eller inte inom AI och det enda du påvisar är att all din kunskap i ämnet härstammar från youtube eller X.
Att du ens nämner Tristan Harris och Max Tegmark i en AI diskussion är i sig en diskvalificering.
Det är lika respektingivande som att nämna Greta Thunberg när man pratar kärnfysik, det är aktivism och inget annat, hade du ens haft minsta kunskap hade du skrattat åt Tegmarks "AI forskning", Tegmark lever på sina meriter som fysiker som han för all del förtjänar, men det är absolut ingen cross over mellan den domänen och AI vetenskap. Och dessutom är Tegmark en dvärg även i fysikvärlden jämfört med tex Roger Pennrose, vad han har för åsikter i frågan kan du lätt hitta på din favoritkälla- youtube också, han har heller ingen insikt eller dyl i AI, däremot har han ett förstånd och en karaktär som vida överstiger de flesta av de du nämnt.
Och varför räknas inte Yann LeCun? ja du påstår han är köpt av Meta- fast han inte ens jobbar där, och även när han gjorde så var han väldigt tydlig med vad språkmodellerna är och inte är, jag har all respekt för LeCun för han är intellektuellt ärlig i alla fall, sen tror jag han är god trogen på andra sätt men inte ett ord har du hört om några otäcka supermodeller på Meta, som du kan räkna med har några av världens främsta AI forskare.
Utöver det glömde du visst Andrew Ng som tycker p(doom) är rent trams och kallat det pseudovetenskap, vilket är riktigt... för det är precis vad det är.
Vad det gäller Dario Amodei och Anthropic, man behöver vara bra jäkla dum för att inte se igenom hans/företagets "oro".
Hela jävla verksamheten bygger på "parollen säker AI". Vad ska du komma med näst, VD:n på Securitas varnar för inbrott?
Och både han och Sam Altman (som inte är någon AI forskare heller, trots han åtskilliga gånger varnat för de ofantligt kraftiga modeller som "de" har, men inte vågar släppa på marknaden, något sådant bekymmer hade de inte att släppa GPT-3 i och med ChatGPT på marknaden, fast det är en av de sämsta och "osäkraste" språkmodellerna ur alla aspekter som någonsin funnits på marknaden) är precis samma skrot och korn, de lever på att sälja hype och ragga investerare. Hur tror du man gör det bäst? Genom att säga "nä våra modeller är inte riktigt vad marknaden förväntar" eller "Vi har i princip AGI som vi just nu håller på att säkerhetstesta innan vi kan rulla ut det på marknaden", för oavsett vad du tror eller inte tror så kommer precis allt som dessa bolag presterar komma ut på marknaden. Det finns inte en ena riskkapitalist som köper in sig i dessa företag för att stoppa utvecklingen.
De vill ha regleringar som kväver open source-konkurrens så att de kan behålla sitt oligopol, det kan nästan vem som helst som har ens minsta fot i företagsvärlden förstå.
Att du sväljer deras marknadsföring som en existentiell insikt säger väldigt mycket om dig och din förmåga att sammanställa och processa information...
Och vad har Connor Leahy gjort menar du, visst han har Conjecture som enbart existerat/levt på riskkapital sedan sitt grundande, under parollen att för att "lösa problem" som inte ens existerar matematiskt än mindre levererat någon som helst lösning annat än att just Connor Leahy varit på massa podtalks med fanatiker.
Du pratar om logiska steg mot ASI men du är uppenbart inte förmögen att skilja på kompetens och marknadsföring, än mindre agens och mönsterföljning.
Men jag är helt säker på att samtliga du nämnt skulle vara supernöjda att de blålurat ytterligare en idiot.
Och slutligen bara för att du ska få en reality check... Varför lägger inte OpenAI, Anthropic osv ner om produkterna de säljer är så förbannat farliga? Att de existerar hindrar inte överhuvudtaget andra företag från att utveckla eller fortsätta forska...
Edit:
För du ska slippa leta
https://www.youtube.com/watch?v=e9484gNpFF8 (Roger Penrose om ämnet AI, en person som ensam gjort mer än alla du nämnt tillsammans)