AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Den här källan verkar inte trovärdig. "Bildbeviset" i inledningen kommer från ett känt konst/humor-projekt som är datoranimerat. Och hon babblar ju bara på utan någon källa. Nej, det här köper jag inte.

Men jag bedömer det ändå som ganska sannolikt att ungefär det här kommer att hända inom ett par år.

Förnekelse kommer att vara den dominerande ideologin här. De flesta orkar inte tänka för mycket på kriget i Gaza eller i Ukraina. Det blir för jobbigt. Samma människor kommer att drabbas av kognitiv dissonans på gränsen till kollaps när det börjar pratas om existentiell kris och arten människas utrotning. Det blir för mycket att ta in. I det här forumet kan vi dagligen se exempel på dessa symptom.

Jag tycker idiot tokstollar är den dominerande faktorn i de här trådarna, jag får dock erkänna att jag fortfarande inte förstått vad ni har för agenda.

LLM teknologin är vedertaget en återvändsgränd vad det rör AGI nu, vad ska man snacka om härnäst?

John Carmack skrev det ganska bra för ett tag sedan https://x.com/ID_AA_Carmack/status/1708910815389028634

Kanske ändå mer träffande är hans svar på en doomer.

"To answer the question directly: there is no way, even with an infinitely smart (but not supernatural) oracle, that a teenager can destroy all of humanity in six months.

Even the most devastating disasters people imagine will not kill every human being even over the space of years. This is a common failure of imaginative scope, not understanding all the diverse situations that people are already in, and how they will respond to disasters.

You could walk it back to “kill a million people” and get into the realm of an actual discussion, but it isn’t one I am very interested in having."

Varför är det bara tokar och investeringsstinna miljardärer som gapar om risken om AI tro, den senare har jag någon form av förståelse för, de vill tjäna pengar på att låsa in utvecklingen till att röra sina egna bolag i första hand.

Hon sa väl hom fick in ett email om saken? Labbet skickar knappast runt bevisen. Men ja, jag vet inte, är ej insatt inom robotteknik, fööjer bara Boston inc. då och då.

På X kallas "agendan" #AInotKillEveryoneism. Jag står för det, men det gör inte du?
I AI-skeptikerlägret. Inte i AI-expertlägret.
Oj vilken halmgubbe. Vi pratar gärna om "endast en miljon döda". Vi kan absolut börja där. När vi säger att AI kan utrota oss då menar vi inte ENDAST utfallet att 100,0000000% av människorna utrotas. Vi ser det även som ett katastrofalt, och ett möjligt hot att miljoner dödas. (Men glöm inte att en AI som kan döda miljoner också skulle kunna döda miljarder, eller nästan alla människor, några år senare).
Hahaha.. vad dålig koll du har. Din idol:

"John Carmack’s AGI startup raises $20M
https://techcrunch.com/2022/08/19/john-carmack-agi-keen-raises-20-million-from-sequoia-nat-friedman-and-others/?guccounter=1&guce_referrer=aHR0cHM6Ly9kdWNrZHVja2 dvLmNvbS8&guce_referrer_sig=AQAAACzB_fgdRX_6UB-Wcd9t6EHSffHO7SDpvMGWN6M-jtZ9XbLkpyrIkEk_EiYCBVwtrRrO4OpYGNz1fS m3O4nAAZaTIv6ddA_CnOzXYSFLEKGNWQlI57yK94jf9EhL0zZs 7-YgBdpfrvDLdlkAvn36dvhxgvMXtkS3Uhg7gG49D3Rd

OK. Och jag fick ett mail som sa att hon ljuger. Då har jag rätt nu? Eftersom det är så källkritik fungerar? Om någon berättar att de har fått ett mail då räcker det som bevis?

Jo i AI expert kretsar är LLM definitivt utdömd som en väg mot AGI.

Och tror du inte jag vet att John Carmack sysslar med AI nu mera? Han jobbar med Richard Sutton för att försöka utveckla AGI på riktigt.

Men det har ju OpenAI redan gjort enligt dig så kanske bäst du tweetar honom och Sutton samt informerar att det racet är kört.

Självklart är de kritiska till LLM när de själva inte satsar lika mycket på den tekniken. Det är ju likadant med Ben Goertzel, SingularityNET. Jag tror inte att LLM är den enda komponenten eller att bara LLM räcker för full AGI men jag tror absolut att LLM kommer att vara en hörnsten inom AGI.

När överhuvudet från ett MSFT-sponsrat AI-team säger; "I expect AI to be capable of superhuman persuasion well before it is superhuman at general intelligence...", så kan vi nog försäkra oss om att det får just ett sådant utfall.

Olyckligt. På många sätt. För lejonparten drivs ju av stora egon, har dålig självinsikt och saknar helt mentala strategier för att kunna hantera nästa generations hypnosmaskiner. Och på dessa sköra sinnen kommer sen all data som bekräftar den egna världsbilden att lastas. Vilket lär få effekten att de svagsinta drivs till att utföra riktigt störda saker. Så man undrar ju därför hur det förtappade myndighetssverige resonerar - eller om de ens tänker agera. Då man verkar vara superallergisk mot allt som rör proaktivt arbete.

Är de så berörda som henne så ja. Läs mellan raderna och använd dina sinnen. Att vara så naiv som du, är mycket farligt.

Vad pratar du om och vilka är kritiska till vad?

Ny intervju med Google Deepminds (en av de första företagen vars mål är AGI) grundare Shane Legg. I huvudsak intressant för det är en av de få företagsledare inom AI industrin som faktiskt är och har en bakgrund som AI forskare själv (och i synnerhet AI säkerhet)

https://www.youtube.com/watch?v=Kc1atfJkiJU

Snabb summering

• Tror det är 50% chans att vi kan uppnå AGI runt 2028 om inga oväntade stop inträffar, tror också att lösningen är multimodel och inte en enskild modell som är i huvudsak vad som industrin fokuserar på idag. (kommentar: ganska vagt uttalande för han garderar sig också och säger det kan lika gärna inte inträffa)
• Säger att ny arkitektur behövs (som inte finns idag)
• Säger också att deras existerande projekt som AlphaGo, AlphaFold inte är försökt till eller kommer leda till AGI (kommentar: inget nytt, säger väldigt lite om andra projekt annat än bekräftar de liksom andra i industrin jobbar på andra modeller med sina egna metoder och tekniker)
• Diskuterar Deepminds sätt att hantera AI säkerhet och hur de historiskt hanterat det (kommentar: säger effektivt vad jag uppfattar det som i alla fall (och egentligen väldigt självklart) att det lösningen är den samma som vi människor redan har, det behövs ett andra system som tillåter AGIn att evaluera möjliga alternativ (dvs effektivt ett samvete) påstår också att det sannolikt inte är ett tekniskt problem utan i huvudsak ett etiskt problem.)
• Säger att reinforcment learning by human feedback - RLHF (som är populärt i branchen) är direkt skadligt/farligt för AI utvecklingen. (kommentar: går inte in på närmare detaljer)