Hur ANN med IQ 130 fungerar

Någon beställer att en armé av AGI-robotar ska kolonisera mars. Robotarna anskaffar resurser för att kunna slutföra uppgiften. Beställaren gillar inte krångel och byråkrati så de väljer en open-source AGI från Kina där sunt förnuft och respekt för miljö och hälsa kan stängas av.

AGI-robotarna kommer att ha agens i den fysiska världen.

Det är väl inte svårt att föreställa sig exempel som kan orsaka stora problem? Drönare, propaganda, förgiftning, pandemier, etc.

Jag TROR ju inte på snacket om death by AI alls.

Jag trodde att det hade framgått tydligt av mina inlägg.

Den högsta siffran jag hört nämnas är 10% chans inom 10år.
Nej, jag tror att det är helt ute och cyklar här.

Dessa AGI-robotar, hur mycket datorkraft tror du kommer att krävas för att styra en armé? Ska var och en bära omkring på en serverhall eller ska de fjärrstyras från en central plats?

De kan köras på "mini"-modeller och/eller skräddarsydda modeller som kan köras på ett chip som motsvarar laptops med GPU. Apple M4 är små och mycket kraftfulla. Det kommer mer och starkare chip nästa år.

De kan köras på "mini"-modeller och/eller skräddarsydda modeller som kan köras på ett chip som motsvarar laptops med GPU. Apple M4 är små och mycket kraftfulla. Det kommer mer och starkare chip nästa år.

Världens mest kända forskare inom AI-risk heter Roman Yampolskiy. Han har en p(doom) på 99,99%. Det finns många intervjuer med honom på Youtube om du är nyfiken.

Mini-modeller är inte lika kraftfulla, så hur troligt är det att en AGI-modell kan rymmas inuti en robot? För att inte tala om all utomstående utrustning som krävs.

Vad säger sedan att alla dessa ska vara aligned med varandra och inte börja sabotera för sig själva?

Yampolskiy är väl å andra sidan extremen på risk-sidan och kan jämföras med LeCun som den andra extremen på skalan.

Båda dessa herrar har vettiga synpunkter, men bör tas med en stor skopa salt.

Det är nog inte nödvändigt för varje enskild robot att vara en fullfjädrad AGI. De kan snarare fungera som arbetsmyror som styrs av en central AGI.

Känner du till någon annan som har forskat på AI-säkerhet i 20+ år?
Yampolskiy är världsledande. Han är tätt följd av Yudkowsy som också har en hög p(doom).
LeCun är känd för OCR, inte för något arbete inom AI-säkerhet.

Och du tror inte att latens och bandbredd är ett problem?

Nej, det tror jag inte, eftersom jag inte tror att varenda liten handrörelse måste styras från en server. Det går att skapa en hybridmodell där arbetsuppgifter delas ut och lärs ut och där en enklare AI kan utföra uppgiften. Detta finns redan, det är inte science fiction.