AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Absolut är det det, men vi kan jaga terrorister. Betydligt värre är det med ett blindgalen ASI som en grupp inskränkta datavetare byggt och testat själva i ett avskilt labb.

Som följande skämt:

En grupp forskare har just byggt ett ASI och en av dem trycker på startknappen och frågar sedan andäktigt med darrande röst: "Finns Gud? ", varvid ASI:et svarar: "Ja, nu, finns Gud!"

Bara det att; om ett ASI, byggt, tränat och testat av datavetare som hamnat i "grop think", kan vara betydligt farligare för mänskligheten än någon "Gud".

Ja, vi jagar terrorister hela tiden. Men vi har ju inte gripit alla terrorister. Många går fria i dag och planerar nya terrordåd. Samma situation kommer att råda med open source AGI. Med den avgörande skillnaden att terroristerna kan göra mycket mer skada då. Inte bara genom att bygga beväpnade AI-robotar utan ännu värre att de slarvar med säkerheten vilket kan leda till att de tappar kontrollen över sin AGI/ASI. Om det händer då hjälper det inte att Sutskever & co eventuellt har publicerat jättebra tips för att kontrollera en AGI. Alla AGI-instanser måste ju vaktas och kontrolleras individuellt, överallt, hela tiden och helt felfritt. Open source är raka motsatsen till det som krävs.

Du kan ha rätt där: Oavsett hur mycket Open-source kan hjälp den teknologiska utvecklingen så kan det också generera oacceptabla risker. Som Hinton sa i en debatt med Kurtzweil: För terrorister är det mycket svårt och inte minst kostsamt att utveckla en modell ifrån början, men de kan mycket lätt att mixa med parametrar och träning av en open-source modell.

Sedan har jag sett ett Youtube klipp om när vi inte längre, till fullo, kunde förstå exakt vad som händer hos modellerna. En historia som inkluderar både Le Cunn och Sutskrever. Och i slutet av klippet så visas den avgörande betydelsen av hur den stora ökningen av beräkningskspacitet möjlig gjort hur modeller kunnat tränas på att större datamängder.

https://youtu.be/UZDiGooFs54?si=gLkskQ01PbqXYJMj

Jag lät ChatGPT4o ta del av vår debatt. Den existensen verkar förespråka en kontrollerad öppenhet där kärnkomponenter hålls hemliga men annat delas till andra forskare och utvecklare. Vidare så förespråkar ChatGPT-4o internationella avtal. Där är jag tveksam om det kommer att fungera i praktiken. Och sedan föreslår modellen, förstås, existensen säkerhetsprotokoll samt utbildning och medvetenhet för alla som jobbar med AI-utveckling. Här är jag nog lite mindre optimistisk vad gäller människans förmåga att "hålla tungan rätt i mun", men fortfarande mera optimistisk än vad du är. Det gäller att "hitta en balans mellan innovation och säkerhet" , ( skrev ChatGPT-4o, och det kan jag hålla med om).

Terrorister känns som det minsta problemet, de är inte kända för högteknologiska lösningar. Finns många farligare grupper:

Naiva forskare, länder vars militär är beredd att ta genvägar för att matcha starkare fiender, ideologer som ser en AI som chansen att genomdriva sin vision av hur världen borde vara, företag eller miljonärer som vill bli än rikare eller bara folk som oroar sig för att någon av dessa andra grupper skall skapa en livsfarliga AI och därför skapar en egen som skall hindra andra AI:s.

Ett scenario är att vi hamnar som collateral damage i en konflikt mellan AI:s som var för sig är "vänliga" mot människor.

Ja, det är nog mer sannolikt att slarv och inkompetens leder till AI Armageddon.

Då är väl bara frågan hur vi kan eliminera alla förekomster av slarv eller inkompetens i tech-sektorn.
I alla länder och för all framtid.

Hittade en 9 månader gammal intervju med Mo Gawdat, fd. AI-forskare på Google. Han tror att vi har AGI redan 2025 och ASI 2027! Det är ganska knutet (reklam) till hans bok "Scary smart". Tidigare har han varit väldig pessimistisk men nu är han faktisk optimistisk, i alla fall långsiktigt (ni kan kolla tidpunkt 1:08:42). Han jämför den blivande AGI/ASI som en människa som växer upp - barn, tonårig, vuxen och tror att tonårsperioden kan vålla en hel del problem för att som vuxen erbjuda oss människor ett utopia i slutändan om vi bara visar AIn våra bästa sidor när den växer upp. Det kan låta löjligt men han är helt seriös om detta.

https://rumble.com/v3njoju-scary-smart-the-future-of-artificial-intelligence-and-how-you-can-save-our-.html
https://www.mogawdat.com
https://www.mogawdat.com/podcast

länk till en dokumentär, "Singularity or Bust" som nämndes: https://youtu.be/owppju3jwPE?feature=shared

Realistiskt sätt, om nu AI alls fungerar som antas i tråden, kommer vi förr eller senare tillverka en som är smartare än oss och om den är "vänlig" får den ta över bevakningen av att det inte skapas farliga AI. Den som är först får ett ointagligt försprång.

Här en färskare intervju med honom. Han har tydligen gått och blivit alarmist i början av intervjun. Sedan ägnar han resten av den åt en ny bok som han skrivit angående glädje i livet. Men innan dess så hinner han analysera hur, vi själva, bär skulden till att sociala medier gått åt helvete och att AI, där igenom får en felaktig bild av oss, och drar fel slutsatser....

https://youtu.be/jVO7sIQl0e4?si=s4XyKVhz-dKTuyJx

Många tusen år

Föreställ dig en hund, kanske en Schäfer av ena eller det andra könet, med nästan samma intelligensnivå som en människa, under mänskligt ledarskap dock, som arbetar som polishund, med sin extremt känsliga nos och luktsinne, oräddhet och dådkraft, bitkraft i käften och snabbhet i språnget, typ 50 km/h

Låter som du tänker dig en varulv. Räkna inte allt för mycket på det där "under mänskligt ledarskap".

Vi vet inte, vi kan inte ta reda på, och troligen aldrig förstå vilka slutsatser eller mål en superintelligens kan utveckla. Hur skulle vi kunna det om den är tusentals gånger smartare än oss? Det är som att begära att en fisk ska förstå mänsklig civilisation! Försök att vara lite mindre självgod i detta ämne. Försök tänka mer objektivt på en verklighet där du själv inte står i centrum. Det är svårt och abstrakt, men det är helt nödvändigt.

Men varulvar ansågs ju vara monster i människans gestalt dagtid, som under fullmånens sken förvandlades till en hybrid av människa och varg, slet oskyldiga människor i stycken, det var inte alls det jag tänkte på,

utan väl fungerande och mycket säkra med barn eller andra oskyldiga människor.

Idealiskt en familjemedlem hos människor med barn.

Man kan tänka sig att upplyfta Chimpanser också, men jag tror att hundar har en långt större potential, genom sin lägre aggressivitet inom flocken och motvilja mot att skada flockmedlemmar, och särskilt ungar.

För Chimpanser av hankön, är ganska stygga, och inga av dem, hane eller hona har några fördelar alls gentemot människor i sin fysiska gestalt, förutom att kunna klättra i träd bättre, möjligtvis.

För i annat fall, skulle de tagit över jorden.

Hundarna å andra sidan, tror jag kan ha stor potential för riktad avel och evolution, eftersom deras utveckling propageras av människor, som gillar dem.