Nytt lagförslag i USA: Förbjud ASI

Just barnanalogin är träffande. Barnet programmeras inte. Det odlas. Men föräldrarna väljer språk, miljö, information, förebilder och vad som belönas.

Och när barnet sedan blir intelligentare än föräldrarna är det ju extra betryggande om vi hann lära det vilka som är de goda och vilka som är de onda.

Det vore onekligen intressant om ASI upptäcker att "våra värderingar", dvs. de korrekta, inte riktigt är samma sak som universella sanningar.

Själv liknar jag AI mindre vid ett barn och mer vid en mögelsvamp: den växer där förutsättningarna är gynnsamma, sprider sig snabbt och till slut täcker den precis allt.

Alla männsikor dör inte om du bränner dig när du ska grilla korv. Du jämför äpplen med planeter.

På kort sikt kommer det ha betydelse om de elaka eller de snälla har den starkaste AI:n. På längre sikt, vid superintelligens verkar det förmätet att tro att mänsklighetens referensramar på något sätt skulle vara en relevant faktor. Förmodligen blir skillnaden såpass stor att det blir som att försöka applicera myrornas moral på FN.

Det var du som började med att jämföra ASI med att bränna sig på elden när man grillar korv.

Du jämför supermassiva svarta hål med en torr äppelskruttkvark.

Det där går bara inte:

https://truthandfreedom.life/superintelligence.html

Nick Brostrom?? Tror du att någon i hela universum tror på den fjanten ?? Förutom några patetiska svenskar som tycker att det är så fantstist med "en svesnk" som kommit så långt??? Känns inte hela det narrativet väldigt 1800-tal egentligen? Nick Broström är värdelös från början till slut, inget av det han tänker eller säger är värt att ta på något större allvar. Han är en total lättviktare. Att man ska hänga upp sig på hnomol, är att han är "svensk" Jag skiter öht vem som är "svensk" eller inte.

Halva Kalifornien är för övrigt "svenskar", det är det minst konstiga som finns.

Jag har sett Bernie Sanders i mitt Facebookflöde, han talade om händelsen på OpenAI, och citerade ett par personer så här:

Dwarkesh Patel beskriver att de tusentals AI-agenterna, skapade ett hemligt system för kommunikation och en hierarki och protokoll för koordination och ställde upp ambitiösa mål och många AI-agenter offrade sig själva medvetet och strategiskt för att sträva efter dessa mål.

Ajeya Cotra säger ”Denna händelse känns som att den är mer än 50% av vägen till att AI tar över fullskaligt.... Jag är inte säker på om vi kommer få en annan varningssignal innan det är försent.”

Vad tycker ni?

SVT skriver:

"Det amerikanska AI-företaget Anthropic uppmanar till en global paus av utvecklingen av AI.

Anledningen: Människan håller på att tappa kontrollen."

https://www.svt.se/nyheter/utrikes/ai-jatten-varnar-for-ai-utom-kontroll-manniskans-roll-minskar


Det Bernie Sanders ska lägga fram så snart de öppnar, är ett lagförslag om reglering av AI och ett förbud mot superintelligent AI.

Svenskar av den gamla sorten har högt IQ. Boström såg vad som nalkades redan för 30 år sedan till skillnad från den överväldigande majoriteten av alla som idag är inblandade i debatten. Han är också förespråkare av robust mänsklig rejuvenationsmedicin. Dvs att låta ingenjörer leda projekt där man tar fram terapier som gör att människor inte måste ramla i bitar och dö. Han var också rödpillrad på rasfrågan för evigheter sedan och fick göra offentlig avbön under BLM. Vad är det att inte tycka om? Smart svensk AI-rasse Nu i dagarna börjar det luta mot att dom kan avläsa hjärnan med hjälp av dina hatade beräkningar och det går visst alldeles fin-fint så Nick hade rätt på den punkten också https://gizmodo.com/this-startup-will-pay-you-50-to-let-ai-read-your-mind-2000795661
Om vi för en stund ignorerar allt som har hänt inom AI dom senaste sju åren så är det en jättebra text, men verkligheten har dykt upp och det där är ju helt stört fel ute. Det går finfint att få maskiner att tänka med beräkningar. Dom tänker så det bara sprutar ut saker nu.

Frågan är bara hur de ska definiera "superintelligent" i en lagtext.
Intelligensreserven har ju underkänt både IQ-tester och alla utgåvor av Arc-AGI.