AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Den enda "lösning" som du presenterat är att stoppa all utveckling AI avancerade AI-modeller nu, även till priset av ett världskrig!

Andra jobbar, aktivt, med AI-säkerhet redan nu, själva eller/och tillsammans med andra AI-företag. OpenAI är ett exempel på detta. Själv anser jag att det krävs både vettig minnesfunktion, genuin förmåga att resonera samt öppna parametrar, förrän avancerad AI, ens, i teorin, skulle kunna tänka ut något jävulstyg emot oss.

När detta kan tänkas kunna ske är dock ytterst oklart: Allt ifrån inom ett halvår till inom 14 år. Jag räknar dock att det kan inträffa inom 2,5 år. Observera att avancerad AI inte behöver vara genuint ond bara för att den entiteten/existensen har en teoretisk möjlighet att ens vara det rent fysiskt! Alla människor är inte onda, trots att alla människor teoretiskt sett kan vara det.

Jag kan försäkra dig att, jag inte kan skapa en gausskurva i alla fall! 🙂 Jag försökte bara hitta ett sätt att greppa det hela, ungefär som när jag som femåring kunde multiplicera genom att räkna golvplattor i köket utan att egentligen kunna multiplicera.

Hur som helst så håller jag med Legg i sak, både om LLM nuvarande brister och behov av bättre minnesfunktion och resonerande förmåga innan vi ens kan börja tänka på AGI, ens i teorin. Men när sådan kan tänkas dyka upp är högst oklart och beror, dessutom, på hur man väljer att definiera AGI. Det kan ske om ett halvår eller så sent som om 14 år, jag har, egentligen, ingen susning. Men vem har det, med tanke på splittringen hos dem som "borde" veta?

Sant.

Jag hoppas att verklig AGI upptäcks under min livstid, däremot har jag inga stora förhoppningar och är inte speciellt orolig för att dagens språkmodeller kommer ta några jobb eller liknande heller.
Samtidigt givet diskussioner som redan idag förs så tror jag diskussionsklimatet och diskussionerna som skulle uppträda när och om det händer kommer totalt haverera.

Och du har helt rätt att de som borde veta är precis lika förvirrade som alla andra, det är inte konstigt eftersom ingen är ett orakel och att förutsäga framtiden utifrån historiska trender har begränsad effektivitet speciellt när man försöker röra sig mot ett mål som inte är tydligt definierat eller ens känt.
Det som mest av allt irriterar mig är att de flesta som är starkt positiva har ekonomiska incitament för att säga vad de gör (inklusive Shane Legg) det är helt självklart att personer på olika AI företag kommer göra allt de kan för att få sina företag att framstå som avkastande vare sig det rör teknik eller finansiella medel.
Och av den anledningen väger för mig rapporter och uppgifter från akademiska intressen betydligt högre även om det kan vara ekonomiska/forskningsstöd som ligger tillgrund där också i många fall, men sannolikheten är i alla fall högre att det är objektiva observationer som ligger tillgrund och inte kreativa fantasier.

Edit:
Jag tycker också det är rent av förkastligt att företag som OpenAI om definierar termer som AGI till ett subset av vad AGI ursprungligen betyder, OpenAI sysslar med narrow AI och försöker rida på en term med mycket prestige. Hur kommer utvecklingen av tekniker se ut om man flyttar målposten nedåt enbart för att kunna hävda att man sedan i någon definition var först att uppnå AGI, man försöker skriva in sig i historier böckerna utan att ha legitim grund. Det är skamlöst i min åsikt.

Å andra sidan: Det jag tidigare hört om AGI har inte varit att en sådan entitet/existens måste vara lika bra, eller bättre på alla kognitiva områden som människor kan tänkas klara.

Det är möjligt att den ursprungliga definitionen av AGI var sådan, men nu tycker jag Legg snarare närmar sig ASI, vilket brukar definieras som en AI som är bättre än experter på samtliga mänskliga kognitiva områden. Detta kan, i sig, innebära ett säkerhetsproblem om/när en sådan modell blir verklighet.

Var har du hört det? Det är väl givet självklart att för att AGI som är att jämställa med kapabiliteteln med människa behöver prestera lika bra eller bättre på samtliga tester en genomsnittlig människa klarar.

ASI innebär i alla fall för mig att det är ett system som överskrider en människa på samtliga områden, något som imbecills som Sam Altman säger enbart är en fråga om uppskalning när de väl kommit fram till AGI. Vilket går ifrågasätta eftersom det redan idag går placera 20 idioter i ett rum och be dom lösa en uppgift men förväntar du dig en lösning som ett geni kan ta fram genom det? Förmodligen inte så hela resonemanget är fel till att börja med.

Hoppas jag verkligen. Tidigare desto bättre. Vidrigaste djuret som levt på den här planeten. Minst 100 år tillbaka. Egoistiska, bittra(det är din pappa och mammas fel)

Ukraina, Gaza och Israel m. fl. Pga giriga äckliga diktatorer. Borde utplånas alla. Biden är en feg människa
Erdogan, Trump, Putin och Orban kan begravas i samma grav. Hur gynnar dessa psykiskt sjuka människor världen?
AI kan förhoppningsvis bli vändpunkten.

Jo, men om ett AGI är lika bra som människan på alla kognitiva uppgifter, kanske, uppskalning, ändå, kan höja den existensen en lite bit över mänsklig nivå, vilket, kan, betyda mycket både vad gäller nytta som risker. Men man kan säkert inte nå hur långt som helst med bara uppskalning efter en Legg-AGI nivå.

Max Tegmark blir totalt nedskjuten och exponerad i kommentarerna på X av flera kända AI profiler.

https://twitter.com/tegmark/status/1718663322738868595

Suck. Dina förhoppningsfulla känslor om AI påverkar inte utvecklingen av AI.
Vi är redan nu i ett läge där AI-utvecklarna inte har kontroll.
De vet inte vad de sysslar med.

Förklara annars varför Google erbjuder en belöning på 350.000 kr om du hittar en potentiellt skadlig "bugg" i en AI-modell.

https://computersweden.idg.se/2.2683/1.780293/google-ai-buggar

Dvs.Googles smartaste ingenjörer med flera miljoner i lön och IQ 155(?) vet inte hur de ska lösa det här och frågar därför Internet om någon därute kan tänka sig att hitta deras skadliga buggar.

Även kallat AI Alignment? ☺️

Så visa google nu då att du har rätt, kassera in de här pengarna.

Är det samma resonemang som gäller för all annan mjukvara som google gör också? Att deras ingenjörer "med miljonlöner och IQ 155" (åter löjliga ogrundade argument) inte vet vad de sysslar med? Är det därför de har bug bounties på i stort sett samtliga projekt?

Det är en viss skillnad på slarvfel i källkod mot att försöka hitta destruktiva egenskaper i en digital alien som har skapats av en obegriplig process. Men du anser att detta är ett bra exempel på AI Alignment eftersom de också letar efter slarvfel i vanlig källkod? Inget att se här, var god cirkulera.

Jag anser inget alls, det var ditt påstående jag ifrågasatte. Jag rekommenderar fortfarande du visar Google vart skåpet ska stå, det finns inget som är bättre argument än att bevisa vad man pratar om.

Att fantisera om aliens och terminators kan vem som helst göra och en del kan göra sig en förmögenhet på det typ som James Cameron, Du och Max Tegmark är försent ute och i fel del av litteraturen.