När når vi AGI?

Naiviteten är frapperande.

Vad pratar du ens om egentligen? Det är ju du som är påverkad av fantasier och dåliga sci-fi filmer. Varför skulle ASI behöva massa datorkraft och arméer för att hota mänskligheten? Varken Cyborg2030 eller någon annan har föreslagit ett sådant orealistiskt scenario.

En ASI med en hjärna flera tusen gånger smartare och mer komplex än din och min kan naturligtvis komma på bättre lösningar för utrotning än att börja bygga robot-arméer!

Du tror inte en superintelligens kan vara hyfsat manipulativ och kreativ om den kommer fram till att vi människor inte behövs längre? (vilket vore en fullt logisk och rationell slutsats att dra om den känner sig hotad)

Jag skulle gärna ha din bekymmerslösa hållning till ASI och du får gärna rekommendera mig dina mediciner, men hur är det möjligt att vara så blind för de enorma riskerna?

ASI kommer inte vara en smart, ond människa. ASI kommer var en hyperintelligent ailen och alldeles snart har vi den mitt ibland oss. Mänskligheten har redan tagit fram en buffé av kemiska gifter och potentiella mördarvirus. Vi är extremt fysiskt sårbara som art. Vad kan en sofistikerad superintelligens göra bara genom att infiltrera ett enda labb? Go figure...

Om man ska vara lite mer praktisk som superintelligens så kanske man börjar med att slå ut internet med ett virus så snillrikt och avancerat att ingen vanlig människa skulle ha förmåga att skapa det. Hur skulle världen se ut efter en månad utan internet? Ganska kaosartat?

Hur skulle du lugna till exempel Geoffrey Hinton, "AI:s grundare och gudfader" som ser en ca 50/50 risk för utrotning av mänskligheten? Hur kan du lugna alla djupt bekymrade experter, med vida större erfarenhet och inblick än dig och mig?

Ursäkta den raljanta tonen, men för mig är det fullständigt obegripligt att inte känna dödsångest över att ha en oöverskådligt intelligent entitet på jorden inom bara något år eller två (eller i bästa fall inom 2-50 år).

Du får mycket gärna komma med en lugnande "verklighetsrapport" till mig

Värt att lyssna på vad Demis Hassabis säger



https://english.elpais.com/science-tech/2024-11-20/demis-hassabis-nobel-prize-winner-in-chemistry-we-will-need-a-handful-of-breakthroughs-before-we-rea ch-artificial-general-intelligence.html

Du är lika fantasifull och alarmistisk som vissa andra här.
Ja, det må vara så fallet att det finns mer som vi INTE vet och kan, än det som vi redan vet och kan. ONEKLIGEN är det så. Det finns saker att veta som vi nu inte ens skulle kunna drömma om.
Jag motsätter mig inte den ingången.

MEN, hur förklarar du att vägen dit skulle vara så problemfri för äkta AI? Eller kalla det AGI eller ASI eller vad du vill.

EN sak är, att nå till en mänsklig generell intelligens, och kanske en liten aning förbi det. Men det är en HELT annan sak när intelligensen väl börjar skena och vi är på väg mot singularitet, för det kommer ovillkorligen kräva helt andra förutsättningar än det som vi ger en AI med motsvarande mänsklig intelligens.

Det är ju VI som pushar den dit. För att någonting skall kunna skena överhuvudtaget, så måste ju AI fortsätta pusha sig framåt, såvida vi människor inte är dumma nog för att bestämma oss för att pusha AI mot något som vi inte ens själva förstår.

Återigen, ni har sett på för många sci-fi filmer där allting är så jävla lätt. En knapptryckning hit och dit. Verkligheten är betydligt mer komplex.

Människan är biologiska varelser, totalt överlägsna allt annat som vi känner till p.g.a. vår möjlighet att fungera utan exempelvis elektricitet. Ja, vi har våra begränsningar också, där elektriska konstruktioner är helt överlägsna oss, men här på jorden, i jordens atmosfär har vi fortfarande ett stort övertag.

En AI är absolut ingenting utan ström. Och det spelar ingen roll om det finns andra sätt för de att fungera, än elektricitet, för de lär inte med lätthet, om någonsin, kunna komma att utvecklas så långt att de upptäcker andra metoder att fungera än med elektricitet.

Det är just den biten av utveckling som ingen av er verkar fatta. Ni utelämnar en stor och viktig pusselbit som INTE är lättlöslig för AI.

Ni tar gärna upp enskilda händelser/möjligheter för AI att avancera, men allt det är punktinsatser i en relativt enorm värld som är full av biologiska varelser som överhuvudtaget inte är beroende av vare sig elektricitet eller hot mot elektricitet som EMP, m.m. Vi är helt immuna mot solstormar och geomagnetiska stormar, för att ta ett exempel. Vi är helt fristående från elnät och batteriförsörjning.
Den bränsle vi behöver finns där ute i naturen, helt naturligt.

AI är en efterkonstruktion som kräver relativt känslig infrastruktur, och som INTE är naturligt anpassad för överlevnad!

Biologiska varelser, liksom människan, är anpassad för överlevnad genom miljontals år av utveckling och evolution. Vi och AI har därför totalt andra förutsättningar i en värld där biologiska varelser härskar.

Och slutligen, för att AI överhuvudtaget skall kunna "födas", behövs vi biologiska varelser. Därmed inte sagt att AI inte är överlägsna oss när de väl har avancerat långt bortom vår intelligens, men vägen dit för AI är definitivt inte så enkel som du, och vissa andra här, får det att låta som, och tror.

Tyvärr är det som sagt inte bara "vissa härinne" som hissar röda varningsflaggor.
Även forskare, nobelpristagare och branschledande supersnilllen varnar för stora existensiella risker.

Jag lyssnar väl för mycket på experter och forskare helt enkelt. Kanske man bara borde sätta sig i båten och invänta kanten vid jordens slut. Det kan ju vara något trevligt som döljer sig bakom horisonten?

Ja, och det finns lika många som tonar ner dessa alarmistiska prognoser. Allt är inte svart eller vitt.

Risker finns naturligtvis, men de yttrar sig inte riktigt på det viset som en del beskriver här.

Om du är orolig för mänsklighetens undergång p.g.a. AI, så borde du tänka efter en eller två gånger till, och kolla hur din omvärld ser ut. Tredje världskriget är ett betydligt större hot mot oss just nu, än vad AI är. Och det är något som skulle kunna bryta ut vilken dag som helst, beroende på om det finns någon galning som startar det.

2026, senast 2027, Kommer vi att kunna konstatera att AI inte fungerade - den här gången heller.

Håller inte med dig. Jag anser att risken för utrotning är betydligt större med AI än med krig. Att en jävla massa experter pratar om eventuell utrotning vid AGI/ASI är väl ganska illa eller?

Klart det fungerar, men inte så bra som det utmålas, men jag håller med.

Också vidrigt att läsa folk som inte vet ett dugg vad de pratar om och kallar Geoffery Hinton ”AIs grundare och gudfar”, vilket är som att Bill Clinton grundade USA.

Men det går ju inte förvänta sig speciellt mycket från folk som har absolut noll koll på AI, de rapar bara upp vad någon förvirrad journalist skrivit någonstans för click-bait. I stället för att känna till legender som John McCarthy, Allen Newell, Marvin Minsky eller Claude Shannon tex.

Vad är AI menad att uppnå senast 2027? AGI? Hur ska någon veta, gemene man är ju inte längre den vassaste kniven i lådan, appar sköter det mesta redan nu. Hur ska en korkad person veta skillnad?

Senast 2027 kommer AI att ha nått vägs ände, planat ut, för den här gången. Nej, AI tog inte över hela världen, den här gången heller. Vi lyckades inte skapa en AI med medvetande, eller en AI som självständigt kan tänka, kreera.

Däremot kommer vi använda Machine Learning och det utvecklade AI-stödet i vårt arbete och på vår fritid. Absolut.

I övrigt begriper jag ingenting av ditt förvirrade inlägg. Vad vill du ha sagt?

Hur ska du veta om AI nått AGI? Ställer du några kontrollfrågor som avgör huruvida du nu blivit apan i förhållandet eller inte? Om du blir förvirrad över min frågeställning behöver du nog inte frukta AGI.

Är du läskunnig? Jag Prognostiserar, Förutspår, att AI aldrig att nå eller uppnå och AGI. Och det kommer vi att bli varse redan 2027. Kanske redan 2026. Vad håller du på tjabbar på om AGI för? Klappmongo.