Sam Altman sparkades från OpenAI - nu åter tillbaka

Håller med er båda, och en jvla soppa detta.

Sam Altman framstår som en omtyckt VD. Han är relativt ung på en sådan position. Född 85, alltså samma generation som uppskattningsvis majoriteten av hans anställda. Det är inte förvånande att han är populär som chef. Men att vara generös med remote work, mocca milkshakes och bonusprogram räcker kanske inte när vi börjar fundera på AI Alignment och en för hela mänskligheten existentiell risk. En ung, driven, teknikoptimistisk entreprenör är kanske inte rätt person på rätt plats för uppdraget.

Men vill de anställda teknikoptimisterna (för de anställer väl inte konspirationsteoretiker?) väldigt gärna erkänna den existentiella risken, när deras häftiga drömjobb på Open AI står på spel?

Jag vet inte vad som borde göras med Open AI men jag lutar väl mer åt "Shut it all down".

Äh, jag borde sluta bry mig, det är kört för oss ändå. Jag tror inte att AI Alignment går att lösa och när vi har AGI inom några år kan vi bara hoppas på att den vill vara snäll mot oss. Den kommer inte gå att kontrollera mer än i max ett år. Ola, du har kanske haft rätt ändå. Det är väl bara att skicka fram socialpskykologerna nu då. Mänsklighetens sista försvarslinje.

Det spelar alltså ingen roll hur duktig eller populär någon chef är, eller hur ansvarsfullt något företag är. Hundratals företag kommer att pressa fram AGI nu och några kommer att lyckas. Alla kommer inte vara lika ansvarsfulla och alla kommer inte ha perfekt IT-säkerhet i sina system varje dag.

Frågan är nog mer vad de inte säger publikt, och att "hela havet stormar" inte var den allra bästa händelseutvecklingen just nu.

Trots allt nuvarande kaos på OpenAI så är det ändå ett faktum att jorden smartaste hjärnor arbetar aktivt för att skapa ett säkert AGI.

I detta nu försöker Anna Makanju att ena OpenAI. Och tar du reda på mer om henne så kommer du att finna att hon är ytterst kvalificerad för att göra detta, och för det internationella arbetet med att skapa ett säkert AGI.

Självklart arbetar de aktivt för "säker AI". Men det betyder inte att vi får säker AI. För att få säker AI måste man lösa AI Alignment & Control och det har ingen gjort än, inte ens i form av en idé om hur.

Har någon av alla dessa kvalificerade personer som du gillar AI Aligment på sitt CV? Om de inte har det är de ju inte kvalificerade att leda AGI.

Frågan är ju om Sam ens vill komma tillbaks, eller om han nu känner att han hellre vill fortsätta arbete på Microsoft. Delvis beror väl detta också på vilken deal han har.

Jag skulle nog säga att hon har en hel del på sitt CV som rör AI-aligment, plus mycket annat som gör henne till en utmärkt förhandlare både inom och utom OpenAI. 🙂 Plus att hon också borde bli involverad i framtida förhandlingar med ett Medelstarkt AGI.
https://time.com/collection/time100-ai/6309470/anna-makanju/

Har du AI-alligement på ditt eget CV? Eller "tänkte" du bara över Yudkowskys slutsats "att vi inte kan kontrollera något som är mer intelligent än oss", i typ två minuter. Visst han har rätt i den slutsatsen. Men just därför är det viktigt att vi blir vänner till ett starkt ASI, så fort det blir möjligt, helst redan nu innan vi får AGI/ASI!

Sam Altman får sparken, det var minst sagt en överraskning. Den såg man inte komma.

Iskallt av styrelsen att sparka grundaren och ägaren av företaget. Det är så extremt så det finns inte, oavsett åsikter som går isär.

Sen att nästan alla anställda också vill säga upp sig. Hela företaget dör ju då. Vad är som gör att dom står bakom sin chef att dom är villiga att säga upp sig.

Skiter faktiskt i detta men det som oroa mig mest är alla är så livrädda för AI, det där tar jag på högsta allvar. Det är inga idioter som har gått ut och varnat om denna utveckling- Har själv alltid varnat för denna utveckling sen jag var liten grabb såg det ganska snabbt att det går inte kontrollera något sådant, lägg på alla domedagsfilmer på det så man numera super paranoid. Alla skrattar innan åt tanken nu är samma människor tysta.

Men ändå om jag tolkar det rätt så vill Sam fortsätta att pressa utvecklingen framåt. Någon som vet hur han resonera kring detta som folk är livrädda för?