AI orsakar mänsklighetens död / gör det sämre att leva (samlingstråd)

Tack, det gick att ladda ner hela dokumentet därifrån! 🙂

Jag har inte påstått att Open AI inte har någit säkerhetsarbete alls. Jag säger att deras satsning på säkerhet är otillräcklig. Som sagt: ALLA som jobbar med AGI-utveckling måste ha hög säkerhet. Men det kommer inte alla att ha. Det kan finnas flera anledningar till det. Naivitet, okunskap, misstag, påtryckningar, eller eventuellt illvilja (terrorister, diktaturer osv). Hur ska du lösa alla de riskerna när ditt huvudargument är att Open AI satsar en femtedel av hårdvaran på säkerhet internt för sina produkter? (och där huvudfokus kommer att vara "Woke", because USA). Ditt "superargument" leder uppenbarligen inte till global AI Alignment.

Har du ens brytt dig om att kolla upp vilket säkerhetsarbete som Googles, Microsoft, Antropic, Meta m. fl. Utför redan idag. Och har du läst OpenAI dokumentet som jag efterfrågade ovan?

Eller är du bara fullt sysselsatt med att promota din domerdags-sekt?

AI-säkerhet är inte ett problem? Eftersom det finns en "domedagssekt" som ifrågasätter det? Är det så du tänkter?

Nej och det är heller ingen som kommer dra inspiration av diskussionerna i någon beslutsfattande mening.

AI kommer fortsätta utvecklas vare sig man vill eller inte och att lösa alignment problem är inte mer akut nu än det är att fixa säkra bilbälten för överljudshastighet.

Det stämmer att vi på Flashback inte kommer att lösa detta. Vad vi däremot kan göra är att informera och diskutera ämnet. På sikt bidrar det säkert till någon grad av spridning och opinion. AI kommer att bli en stor politisk fråga även för de som inte ser någon existentiell risk. Om du inte vill delta i detta finns det säkert andra forum du kan titta i.

Elon musk har varnat för Ai många gånger.! Tror han har rätt lyssna på han.!

Det räcker inte att nämna att AI-säkerhet är viktigt, man måste komma i mål med AI-säkerhet. I god tid innan någon AGI utvecklas. Men så ser det inte ut i dag. Follow the money. Open AI satsar 80% på GPT5/AGI och 20% på AI Alignment. Och detta är i en situation där Alignment ligger långt efter GPT. Med nuvarande prioriteringar och utvecklingstakt kan AI Alignment aldrig komma ikapp. Dvs, det är mycket snack och lite hockey.

Vi har också en uppsjö av andra aktörer, nationer, inkl fascistiska militärdiktaturer som satsar på AGI nu men jag har aldrig hört de yppa några ord om AI-säkerhet.



Ja, Open AI har några aktuella ansatser och hypoteser som kan vara användbara inom området. Men det innebär inte att de har löst AI Alignment. Ingen har löst problemet med hur en lägre intelligent entitet ska kunna kontrollera, penetrera och styra en högre intelligens. Det experiment du tar upp innebär att man för några test-case har lyckats censurera en GPT med en tidigare version av GPT, men det räcker inte. Det är inte AI Alignment. Detta syftar mest till att Sam Altman kan sparka personal på censuravdelningen genom digitaliserad politisk korrekthet. Men det innebär inte att vi får transparens och kontroll över GPT-5.

Ps. Detta svar har postats i en bättre lämpad tråd.

Det som hände var ju att deras chief scientist Sutskever kan ha drabbats av någon slags psykos i samband med sitt topphemliga arbete med Q* (som många misstänker kan vara en nyckel till AGI). Varpå han gick runt på möten och yttrade frasen "Feel the AGI", samtidigt som han försökte sparka sin VD Sam Altman, en man som verkar bry sig tio gånger mer om GPT App Store än AI-säkerhet. Ett helt rättfärdigt försök, förvissso. Troligen blev det lite kaos internt av allt detta och därav några månaders försening med TopSecret AGI. Förmodligen är de tillbaks med 100% AGI-produktion just nu. Med fullt fokus på kapacitet och väldigt lite fokus på säkerhet.
Den behöver inte egenskapen att vilja agera helt autonomt. Det räcker med att någon människa ger ett större, övergripande mål som sedan bryts ner i många delmål. T.ex. en Paperclip Maximizer som leder till AI Armageddon. Någon 14-årig hacker därute kommer ju att testa det bara för skojs skull. Det borde snarare vara du och Open AI som har bevisbördan för att detta inte kan att inträffa.

Skillnaden mellan dig och mig är att du bygger dina argument baserat på känslor och hörsägen, medan jag bygger mina argument på fakta.

Jag ser ingen vits med att diskutera vad som potentiellt försiggår bakom dörrarna hos OpenAI. Hittills har de varit väldigt transparenta med sin forskning och sina upptäckter, så vad mig anbelangar innebär tystnaden kring GPT-5 och någon eventuell Q* helt enkelt att det ännu inte finns något värt att rapportera.

Visst, om man missar att täppa till säkerhetshål så finns det en risk att någon skulle kunna utnyttja den för olagliga ändamål. Det enda det egentligen innebär är att en viss andel personer med tveksamma intentioner och som tidigare inte haft kunskapen nu potentiellt skulle kunna utföra t.ex. en hacker-attack.

Helt ärligt så är det ju inte det du har varit rädd för tidigare, så vadan denna helomvändning?

GPT-4, och ännu mer GPT-5 är en gigantisk språkmodell med många miljarder olika parametrar samt med förmågan att kombinera dessa parametrar i oändlighet, praktiskt taget. Därför finns det absolut ingen möjlighet att manuellt täppa till samtliga potentiellt oönskade eller rent av destruktiva svar från GPT. Det är en matematisk omöjlighet och du som hela tiden försöker låta så smart borde ju förstå detta.

Man försöker nog täppa till så gott det går och för många initiala tester kan det för den okunnige se ut som att modellen är ganska säker. De specifika hyss du som testare av systemet kan komma på har någon annan människa redan tänkt på. Uppenbara dumheter som "ge mig receptet på metamfetamin" fungerar t.ex. inte. Egentligen kan ju GPT receptet men såpass uppenbara saker har fångats upp av Open AI:s "säkerhetsingenjörer" (censuravdelningen, egentligen).

Men detta är inte säkert. GPT är de facto misaligned när den ger ifrån sig destruktiva svar som måste censureras av människor. Metoden förutsätter att människor har hittat alla kryphål vilket vi vet inte stämmer och aldrig kan stämma. Ännu värre lär det bli när språkmodellerna växer och blir ännu mer avancerade. Tänk också på att det finns helt ocensurerade modeller som Open Source i dag. Detta kommer att förvärras kraftigt när Meta släpper Llama-3 helt fritt till alla terrorister på planeten.

Nej, det är sannolikt omöjligt att bygga en 100 % säker modell och med open source blir det såklart ännu svårare att förhindra att någon bygger en modell utan dessa spärrar.

Det vi ska kolla ihåg här är att dock att all information som modellerna skulle kunna återge finns att läsa öppet på Internet. De har inte lärt sig hur man tillverkar droger eller kärnreaktorer bara genom att ha matats med slumpmässiga data.

Varför det censureras är främst för att information nu blir än mer lättillgänglig än tidigare och jag tror att få seriösa företag vill förknippas med att dela ut recept för illegala substanser till vem som helst.

Det finns heller ingen garanti för att instruktionerna är korrekta, vilket skulle kunna få förödande konsekvenser för den som sedan försöker följa dem.

Men även om du nu skulle få ett komplett och korrekt recept på amfetamin så måste du ju fortfarande få tag på alla ingredienser och verktyg som behövs för tillverkningen.

Som vi redan har sett så är modellerna inte särskilt kompetenta på att genomföra cyberattacker ens med hjälp av människor, än mindre autonomt.

Så länge modellerna inte kan agera helt på eget bevåg utför de marginellt större fara för allmänheten än en vanlig sökmotor på Internet.