AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Precis, du har helt rätt. Det är svårt att föra en riktig debatt med personer som inte har några argument utan enbart känslor och uppenbart vare sig förstår argumentation eller att de står och stampar på samma ställe (men i deras egna värld "vinner" de om de inte får en diskussion att röra sig).

Eftersom du vägrar ta fram källor ska jag hjälpa dig lite. Från: https://openai.com/blog/introducing-superalignment

1. We need scientific and technical breakthroughs to steer and control AI systems much smarter than us.

De inleder starkt. Vi behöver alignment. Vi har inte. Men vi behöver.
Det är ju precis vad jag brukar säga i detta ämnet.

2. dedicating 20% of the compute we’ve secured to date to this effort.

Dvs det satsar 80% på LLM/AGI och 20% på säkerhet. Detta innebär ju så klart att AGI-utvecklingen kommer att gå mycket snabbare än AI Alignment. Och då är ju redan LLM/GPT ett enormt försprång mot AI Alignment och säkerhet.

3. We’re looking for excellent ML researchers and engineers to join us.

De har alltså inte detta i dag, vilket de så klart borde ha haft för minst 2 år sedan om de var seriösa och trovärdiga med sin sk "superalignment"

4. Currently, we don't have a solution for steering or controlling a potentially superintelligent AI, and preventing it from going rogue.

Exakt vad jag säger. Det finns ingen AI-säkerhet. Vilket du hela tiden misslyckas med att förstå när du griper efter dina olika halmstrån och när du beskyller alla som kan läsa innantill för att vara "idioter".

Vi kommer förmodligen att få uppleva att någon slags AI löper amok på Internet redan nästa år. Då kommer AI-teknik att bli en stor politisk snackis. Därför är det viktigt att redan nu upplysa allmänheten om riskerna. Även om du inte tror på x-risk de närmsta åren måste du väl ändå förstå att det finns en sannolik möjlighet till AGI inom 10 år och att detta kan få allvarliga konsekvenser för vårt samhälle även om vi inte blir utrotade. Jag skulle tycka att det var bra om du startade ett parti eller blev aktiv inom ett parti där du kan driva frågan om att AI:s är 100% ofarliga. Då vet vi vad vi inte ska rösta på nästa gång. Det jag har sett från EU hittills är för tandlöst för att kunna motverka eller hantera en ASI. Det är ju bra att man har börjat rota lite i frågan men det behövs mycket mer.

Som jag påpekat: Det är omöjligt att, redan nu, garantera, säkerhet för en teknologi som inte är uppfunnen ännu.

Men jag noterar att OpenAI, redan nu, börjar förbereda sig. Om man, nu, är beredd på att lägga 20 procent av sin datorkapacitet, (vilket kommer att öka enormt), ser jag det som en bra förberedelse för att kunna kontrollera en teknik som ev. Kan vara på plats, tidigast, om sex år, enligt OpenAI.

Ja, som det verkar kan AI Alignment vara på en teoretiskt intressant nivå först om ca 6 år. Men AGI kommer att vara en verklighet inom ett par år, max 4 år. Därför är p(doom) minst 50%. Detta är en objektiv bedömning av verkligheten som inte bygger på variationer i någons personlighet (som t.ex gränslös naivitet).

Din bedömning och ingen objektiv sådan. För att inte tala om din mycket mustig tolkning av "sannolikhet".

Till skillnad från dina vetenskapliga formuleringar om medelstark AGI och halvsvag ASI?

Visst, men Legg respektive Googles forskare definierar AGI och ASI helt olika. Eftersom det var Legg som skapade begreppet AGI en gång i tiden så gör jag, nu, ingen skillnad mellan AGI och ASI, så länge det ligger på eller strax över mänsklig nivå. Men att som ligger under detta kallar jag inte AGI/ASI. Möjligtvis mycket svagt/ svagt AGI om den ligger på den 75:te pertilen av vad skolade anställda med kognitiva uppgifter klarar av. Och det är, först då, som vi behöver förbereda oss ordentligt för ett riktigt AGI/ASI, men det är bara bra att OpenAI redan börjat förbereda för det som är möjligt att åstadkomma idag.

Du glömmer dock en viktig sak. Open AI är inte den enda aktören här. Det räcker absolut inte om Open AI har acceptabel AI-säkerhet (vilket är ren spekulation att de kan lyckas med). Nej, ALLA som jobbar med AGI-utveckling måste ha hög säkerhet. Men det kommer inte alla att ha. Det kan finnas flera anledningar till det. Naivitet, okunskap, misstag, påtryckningar, eller eventuellt illvilja (terrorister, diktaturer osv). Hur ska du lösa alla de riskerna när ditt huvudargument är att Open AI satsar en femtedel av hårdvaran på säkerhet internt för sina produkter? (och där huvudfokus kommer att vara "Woke", because USA). Ditt "superargument" leder uppenbarligen inte till global AI Alignment.

Det lustiga är ju att det är lilla jag, som inte är datavetare, som är mera optimistisk än dig, som inte jobbar i branschen och som är något mindre bekymrad än vad du är, som fått leta reda på information om det faktiska säkerhetsarbete som OpenAI utför. Nej, det är inte svårt att hitta, men det känns lite irriterande när alarmister kommer med svepande påståenden om avsaknad av säkerhetsarbete hos företagen, utan att faktiskt undersöka om detta stämmer eller är en ren alarmistiska lögn ämnad att skydda er kult och de vilfarelser den bygger på.

Förfrågan:

Jag har sökt efter "Preperednesss framwork (beta)" på OpenAI:s sajt utan att hitta det.

Orsaken är den sensations-video, som går igenom dokumentet, men som inte länkat till det.

https://youtu.be/jJdG5J8VbWM?si=dP6n_LbQfMHWnWZH

Kan någon hjälpa mig att hitta detta mycket imponerande dokument vad gäller framförhållning?

https://openai.com/safety/preparedness