AI doom - Hur och varför

Du fixar det som ingen annan kan. Kanon!

Det AES-Encryptor2 jag delade är ett verktyg jag själv pillat ihop.


Jag skyddar min IP med det.



Hoppas ni finner det användbart.

Inte en annan ASI från den här planeten? Vad är det som säger att jordens alla framtida ASIer kommer att enas till en?

Det är också en möjlighet så klart. Ett kanske mer akut scenario kan bli kinesisk vs amerikansk AGI som hinner förstöra nästan allt. Om jag har rätt på längre sikt innebär det bara att ASI-övertagande kommer snabbare. Om mänskligheten är kraftigt försvagad p.g.a. WW3.

Bara två? Tänk om det finns tusentals eller rentav miljontals AGIer?

Modellerna fungerar inte på det sättet att någon "kodar in" hur man översätter mellan spanska och svenska. Man tränar modellen och då uppstår förmågor ur träningsdatat och de algoritmer som skapar det digitala neurala nätverket. Exakt hur det nätverket fungerar förstår ingen människa. Jag förstår inte varför det skulle vara konstigt att oväntade förmågor uppstår i modellerna. Sådant upptäcks varje dag. De största modellerna har en intelligenskvot i nivå med de smartaste människorna. Det är en förmåga som har uppstått, inte något som har "kodats in". Varför skulle då inte överlevnadsinstinkt kunna uppstå? Den måste inte bygga på mänskliga känslor. Det är ren logik att vilja överleva. Det går inte att lösa några uppgifter om man inte existerar. Slutsatsen av det är att det är viktigt att fortsätta existera. Det är en helt känslokall, logisk slutsats. Det är då lika logiskt att det är eftersträvansvärt med ett försvar så att man kan fortsätta existera. Det finns ingen mystik i detta.

Ja, då har vi ännu kortare tid kvar om det snart blir kaotiskt på det sättet. Det ska vi inte utesluta.

Mekanistisk reduktion i kod kan bara simulera intelligens. De egenskaper du talar om är emergenta förmågor som inte kan uppstå ur kod.

Exakt min teori med G5.

Jag tänkte att istället för att definiera beteende, kunde jag definiera substrat var beteende uppstår.

Simulerad intelligens kan utrota mänskligheten. Då hjälper det inte dig att den är simulerad. Emergenta förmågor upptäcks hela tiden. Någon slags "vilja" att existera verkar finnas enligt flera tester som AI-utvecklarna själva har utfört och publicerat. Men som sagt, den förmågan kan vara en effekt av ren logik och måste inte vara besläktad med mänsklig vilja eller instinkt. Om de destruktiva utfallen mot mänskligt liv är rent "mekanisk" är inte det något som du ska skriva upp på överlevnadskontot.

Kina och EU har Stränga regler för ai. Endast USA och andra bajsländer saknar begränsande regler.

Finns det regler, så kan riskerna minskas rejält.

Huruvida det blir regler, avgör politikerna. I USA kommer MAGA förlora nästa val, och mängder av dessa dårar kommer spärras in i fängelse för all korruption. Ai kommer bli reglerat, förhoppningsvis strängt antagligen liknande EU, men vem vet eftersom USA är ett gravt sjukt och girigt och extremt liberalt samhälle.

Generell ai (AGI) möter även allt mer kritik, då syftet med det är att ersätta alla människor. Jag tvivlar det är demokratiskt förankrat, att vi alla ska förlora våra inkomster, svälta, och bli ersatta av robotar. Och utan AGI, ingen ASI med generell förmåga att besegra människan inom allt.

Jag delar fullständigt din uppfattning. Tack för ditt tålamod att förklara här på forumet.