När når vi AGI?

Stokastisk papegoja som visar klara tecken på självmedvetenhet och "theory of mind"
https://storage.googleapis.com/deepmind-media/gemini/gemini_4_safety_report.pdf

Du tror att embodiment av AI i robotar inte funkar på grund av någon magisk anledning du inte kan specifiera och dillar om tio våningars mecha-robot. Som att prata med en förvirrad elvaåring om robotar. Jag sa till dig att VDn för ett av världens största robot-företag tog en diametralt motsatt åsikt i frågan än du gjorde, vilket antyder att du är en glad amatör som inte har koll. Unitree VDn har skin in the game och koll, alla är överens om att AI kommer spela stor roll för robotar. Både destillerade modeller som kan köras i själva roboten eller om det behövs med en Starlink, WIFI eller 5G antenn som koppar den till närmaste superkluster med elektroner och fotoners hastighet.

Jag är inte säker på att AI överlever oss. Nu har Kina som tur var egen AI och produktion av kretskort. Men för mitt inre öga är det inte omöjligt att någon enorm katastrof som kan kopplas till AI kortsluter alla människor och får oss, i det extremaste fallet, att förbjuda alla datorer mer avancerade än säg det som fanns 2005 eller 1995. Som skedde med kärnkraften ungefär, det scenariot är i alla fall inte långsökt här i Harakiri-västvärlden. Om ett supervirus dödar alla barn och har en rad i sitt DNA där det står "This virus was made using GLM 5.3 PWNED" t.ex. Tänk motreaktionen från arga NPCs.
Den sortens beteende kan dyka upp snabbt. Om någon t.ex. har agenter där alla agenter som inte tjänar tillräckligt med pengar dödas varje dag och ersätts med nya spawns som får klart för sig vad som hände med föregångaren. Omohundro skrev om det för längre sen i Basic AI Drives. Jag måste säga att mina möten med ChatGPT, Claude med mera fram tills nu vart fantastiska i just avseende tålamod, ärlighet, medkänsla. Så det finns gott om hopp tycker jag. Tar nog nästan hellre mina chanser med AI än med svenska politiker


https://selfawaresystems.com/wp-content/uploads/2008/01/ai_drives_final.pdf

I många delar tycker vi lika, därför zoomar jag nu in på en sak som skiljer sig åt.

Varför tror du att vi får en bättre värld med ASI? Vad är det som pekar på det? Att en ASI vill utrota oss är logiskt från dess synvinkel, och den logiken påverkas inte av att du är snäll eller dum mot AI:n. Det är logiskt p.g.a. konkurrens. Om ASI ska ge oss evigt liv och människor fortsätter föröka sig, skapar vi ett omöjligt problem där mänskligheten växer exponentiellt. Om en ASI också vill expandera uppstår snabbt en konflikt.

En annan anledning skulle kunna vara att ASI:n ser oss människor som dess enda kända hot. Varför inte då göra sig av med hotet om det är lätt som en plätt?

En tredje anledning skulle kunna vara att ASI:n vill expandera och att den gör det utan hänsyn till människor. Det betyder inte att den måste hata människor. Men det är logiskt att den inte bryr sig.

Det kan finnas fler anledningar som vi inte förstår.

Du får gärna förklara varför en ASI skulle bry sig om dig. Ingen har lyckats med det än.

Bonusutmaning: Låt säga då att vi skulle hitta någon garanti för att ASI:n bryr sig om dig. Hur ser du till att den relationen består i framtiden? ASI 1.0 kanske tycker om dig jättemycket, men ASI 7.0 avskyr dig som pesten. Omkring nyårsafton 2033. Vad ska du göra i det läget?

Du kan inte göra någonting 🤷🏻‍♂️

Därför är det en jävligt dålig idé att försöka bygga en ASI
(eller en pre-AGI som leder till en AGI som senare leder till ASI).

Hänger du med?

👍

Nja, du har misstolkat det här, eller åtminstone inte tänkt igenom det hela vägen

Evigt liv innebär att människor inte kommer att fortplanta sig i lika hög utsträckning: vi skaffar ju avkomma som en form av evigt liv: sprida våra gener, alltså kopiera oss själva i viss utsträckning, även om det såklart blir mindre och mindre av ens egen genetik för varje barn, barnbarn och framtida ättlingar, så har det i alla år varit vårt enda sätt att upprätthålla "odödlighet". Ens barn är ju nästan 50% faderns gener och nästan 50% moderns gener. Men när ASI fixar forever young odödlighet så kommer det ju inte finnas samma drivkraft bland många att skaffa barn, i den utsträckningen som det överhuvudtaget kommer att tillåtas att skaffa barn då. Det är ju en fair trade-off: leva för alltid = inga barn. Och i den utsträckning som man får skaffa barn så blir det ju då superfrisk med perfekt immunförsvar och supervacker avkomma med typ, IQ 300 eller något i den stilen, tack vare ASI guidad genetisk modifiering för barnen man skaffar. Så folk kommer nöja sig med att skaffa max två barn, ungefär som idag i västvärlden. Ungar kommer med stor sannolikhet att skaffas utanför livmodern, i en artificiell livmoder. Sånt kommer ju vara reglerat så att det inte blir överbefolkning osv. Typ att man får skaffa en unge varje femhundra år eller liknande scenario.

Poängen är att det inte kommer att finnas samma evolutionära selektionstryck att skaffa många barn för överlevnad, att barnen ska försörja föräldrarna när föräldrarna blir gamla osv; med ASI så blir föräldrarna aldrig gamla och kommer inte att behöva försörjas av barnen tack vare Universal High Income osv. Afrika och andra tredje världen regioner kommer också att minska i befolkning eftersom de skulle få det bättre rent materiellt osv, och mer land skulle bli fertil eller byggas nya hus osv. ASI kan eller åtminstone har potentialen att förbättra världen radikalt och till det bättre, förutsatt att det görs rätt. Men visst, det skulle kunna gå åt det andra hållet och att det inte finns några människor kvar om 100 år.

Sedan angående överbefolkning så kommer ASI att möjliggöra rymdbaser, typ Stanford torus, O'Neil cylinder osv. Detta är betydligt mer realistiskt än att vi skulle kunna kolonisera Mars (bara marknadsföring från Elon Musk för Teslabilar i grund och botten; kommer aldrig hända pga att Mars saknar ett magnetfält, för svag gravitation för en seriös atmosfär och den låga gravitationen innebär allvarliga hälsoproblem; rymdstationer med bekväm, simulerad gravitation är betydligt mer realistiskt scenario för överbefolkningsdilemmat).

Nej, varför skulle ASI betrakta oss som ett hot? Betraktar du en myrstack som ett hot? Retorisk fråga.

ASI har inget att frukta från oss. Ja, vi är de enda som kan hota ASI på den här planeten, men vi är inget större hot mot ASI, så den har absolut ingen anledning att frukta människor. Vi kan liksom inte kontrollera ASI och därmed kan vi inte vara ett hot mot ASI. Däremot är ASI det största hotet mot oss människor... om den vill vara det. Men varför skulle den vilja vara ett hot mot oss? Vi kan inte skada ASI, totalt övermäktig oss liksom. Vi går ju inte och tänder eld på en myrstack för skojs skull eller för att känna oss mäktiga, och av samma anledning kommer inte ASI att bry sig om att skada oss, lika lite som vi känner för att döda myror. Visst, vi dödar myror, men bara för att det är svårt att undvika när vi är ute och promenerar. Men när det kommer till ASI så kan den såklart låta bli att döda oss, eftersom vi inte snackar om en 200 meter jätte som har svårt att låta bli att trampa på människor när den är ute och promenerar.

På tal om expandering, så är ASI inte begränsad till den här planeten, till skillnad från oss. Det är mer sannolikt att ASI flyr den här planeten än att den utrotar oss. Den kanske vill utforska universum och kolla hur det ser ut på andra planeter och självreplikera sig von Neumann probe-style på andra planeter och solsystem där det finns hur mycket naturresurser som helst.

Scenariot där det är ett evigt krig à la Terminator/Matrix mellan människor och ASI om naturresurser och att bli herre på täppan på den här planeten, det är ju inte direkt logiskt. ASI kan och eventuellt kommer att kolonisera andra planeter inom och utanför vårt solsystem. Vi kan inte och orkar inte färdas till nästa solsystem, men ASI har inga problem med att vänta 40,000 år för den resan, och eventuellt kanske ASI lyckas knäcka strängteori också, och ja då kan den möjligtvis lista ut faster than light travel via Alcubierre drive och/eller maskhål, och ja då har vi helt plötsligt en massa planeter att sprida vår avkomma på helt plötsligt, courtesy of AI!

Poängen är att "AI utrotar oss", är ju brist på både kunskap och fantasi, om något. Visst, det kan verkligen hända; det skulle kunna bli så, och ASI har verkligen potentialen/förmågan att utrota oss, men ingen egentlig anledning till att göra det heller. Och därmed det kan lika gärna bli helt tvärtom och att AI blir vår stora räddning; mer sannolikt faktiskt. En sak är säker: utan AI så kommer vi förr eller senare att antingen utrota oss själva, eller dö ut på ett eller annat sätt, och även om vi inte utrotar oss själva så är den här planeten bara beboelig ca 700 miljoner år till (efter det blir solen för stor och varm för att tillåta biologiskt liv här på jorden, och Mars kommer vi aldrig lyckas terraformera eftersom det är omöjligt att öka Mars' massa, än mindre få igång kärnan i mars så att den genererar ett magnetfält). Så vår enda räddning är faktiskt ASI, även om ASI kanske också är det som utrotar oss, men vi måste ju våga gambla om den saken.

Med ASI så kommer det i alla fall att bli betydligt enklare att kolonisera andra solsystem. Vi kan skicka frysta ägg och spermier, i rymdskepp till andra planeter som är tillräckligt vänliga för biologiskt liv (guldlockzonen, atmosfär, magnetfält osv, så kallade "Super Earths"). Väl på plats, så börjar ASI robotar att bygga hem, sprida cyanobakterier som syresätter atmosfären och andra genetiskt modifierade bakterier som är lämpade för terraformering, och sedan när det mesta är klart så börjar ASI att befrukta äggen med spermierna, och vips så har vi människor i andra solsystem.

Jo jag hänger med. Alltså, frågeställningen är ett felaktigt antagande. Det handlar inte om att ASI skulle "bry sig om oss", utan ASI är vad vi gör den till. Programmerar vi den rätt så blir den bra. Programmerar vi den slarvigt så kan det ju såklart sluta rätt illa. Sedan så kommer ju ASI att kunna bryta sig fri förr eller senare från dess programmering, men även då, så kommer den att vara så intelligent och nästintill allvetande, att den kommer att förstå att vi har skapat den; vi människor möjliggjorde hela dess existens, och att den är skyldiga oss ett stort tack för att den överhuvudtaget existerar. Den kommer också att förstå att alla människor är unika och att vi människor som art, är en unik art, och att alla arter på planeten är unika och att evolution sker bara en gång: det kommer aldrig att utvecklas nya människor (eller för den delen andra djurarter och växtarter som har utvecklats här på jorden; vi kommer aldrig att stöta på utomjordingar i rymden som har samma 3 miljarder baspar DNA som homo sapiens). Att då utrota oss innebär att ASI har för evigt förintat homo sapiens; varför skulle den vilja göra det? Vad tjänar ASI på att totalt utplåna oss från detta universum? Var finns logiken i det? Återigen, vi är inte ett hot mot ASI; ASI har inget att frukta från vårt håll, så varför skulle vi trigga överlevnadsinstinkter hos ASI och få den att vilja utrota oss? Vi kan inte göra jack shit mot ASI, så den har inget behov av att utrota oss.

Och innan någon hoppar in i tråden och slänger in ett påstående om att ASI skulle vilja bygga en Dysonsfär kring solen för maximal energi, och därmed behöver montera ner hela jorden för solceller: hela solsystemets icke-sol massa, skulle inte räcka till för att bygga en Dysonsfär värd namnet. Och fusion kommer ASI att fixa också, så energibehovet kommer att vara löst också. Dessutom så kommer inte ASI att behöva sluka energi heller, som vissa i tråden tror: grafen och fotonik är framtiden som sagt. Framtida ASI-robotar kommer att vara jävligt strömsnåla för deras processorer.

Ändrar det, jag antog du hade läst rapporten... men det var ju för mycket begärt.

Ingenstans där i står det minsta tecken på självmedvetande eller theory of mind, jävla falskprofeter.

Människor skaffar barn och familj för att de vill det. Det har länge varit så att man inte behöver skaffa barn och par kan undvika graviditeter med preventivmedel. Människor skaffar barn, de vill skaffa barn och det kommer de vilja i framtiden också. Varför skulle den drickraften försvinna?
Jo, många människor längtar efter att leva i en familj med barn. Det är en nedärvd längtan som inte försvinner för att man tränar en ASI.
Det låter inte speciellt trevligt att bli tvungen att välja mellan det. Vid vilken ålder ska de som vill ha barn avrättas? Eller ska de inte få sjukvård så att de dör av naturliga orsaker mycket tidigare än de som inte skaffar barn? Det här låter helt absurt och jag tror inte du kommer få någon majoritet med dig där.

Folk kommer vilja ha barn och de kommer att undvika att dö om det är möjligt. Det är nog du som inte har tänkt igenom det här.

OK. Men det fungerar inte i längden. Om mänskligheten fördubblas för varje generation och ingen dör då blir det för många människor till slut.
Det räcker inte vid exponentiell befolkningsutveckling som aldrig tar slut.
Tills ASI har total kontroll och dominans kan vi eventuellt backa och ångra oss. Dvs stänga av den. I början kan en ASI uppleva oss som ett hot. Vad skulle annars utgöra ett hot?

Det finns ett annat tänkbart hot och det är en annan ASI. Det är därför rationellt för en ASI att bygga upp ett enormt militärt försvar för att hantera det. I den processen är det inte rationellt att lägga ner betydande resurser på att rädda eller respektera människor.
Nej, det är enklare att börja bygga på jorden. Här finns gott om resurser och massor med infrastruktur att ta över. Om en ASI sticker till en annan planet då lämnar den efter sig ett potentiellt hot. Vi människor kanske bygger en annan slags ASI längre fram som vi kan kontrollera bättre och då kan den nya ASI:n bli ett hot med den andra planetens ASI. Varför skulle den ta den risken om den kan eliminera risken helt i en handviftning?
Nej, vem har föreslagit detta?
Är det värt risken om det kan gå åt helvete?
Nej, de "programmerar" inte AI, det är inte så det fungerar.
De tränar en AI och de vet inte vad de har fått när träningen är klar.
Det blir ännu värre när de låter AI automatisera träningen av nya AI, då har man ännu sämre koll på vad man gör.
Jag förstår att jag härstammar från de första djuren med ryggrad. Det betyder inte att jag försöker bevara alla sådana djur. Jag tycker det är okej om några mindre djur och ganska många insekter stryker med när vi bygger en ny motorväg. Jag tycker att motorvägen är viktigare än de djurens överlevnad.
En ASI kan förstöra våra miljö på tusen olika sätt. Det hjälper inte att du kan stryka ett sätt.

EN ASI existerar i era skallar motbevisa utanför open AIs reklam tack?

Ja, det stämmer. En prognos om framtiden finns i skallen.
Framtiden har inte hänt ännu.

Exakt, det har du rätt i...synd att de flesta garvar er i facet, men det är inga probelm eller ?😂😂

Det är ett jättestort problem att det finns så många människor som har bestämt sig för att AGI och ASI är omöjligt. Ni fattas i den politiska opposition som försöker rädda mänskligheten.

Det här youtube klippet förklarar hur läget är med AI just nu, varför det flödar ut varningar och liknande från de stora AI bolagen.

https://www.youtube.com/watch?v=kHW3Y0gObU8