Sam Altman sparkades från OpenAI - nu åter tillbaka

PR stunten var självfallet "OpenAI is nothing without its employees" och Q* "läckan".

Deras anställda verkar ju inte heller helt OK när 95% av dem skrev under på att de lämnar om deras sektledare tvingas avgå. Och denna genomruttna och toxiska organisation ska ansvara för säkerheten runt världens första AGI, sannolikt. Dvs, det blir ingen AI-säkerhet.

Feel the AGI!

LOL! Jag tycker inte att du balllat ur tillräckligt mycket ännu, så jag länkar till följande mediokra dokumentär 🙂

https://youtu.be/1cKE12LK4Eo?si=KXudl7HIlZtErz0x

Här en offentlig intervju som Time magasin gjort med Sam Altman efter att han utsetts till "CEO of The year"

https://youtu.be/e1cf58VWzt8?si=Qxvk9i05QC94rz7Y

Jag tror nog att turbulensen för några veckorsedan berodde på att "boomers" och "doomers" rök ihop. Altman verkar erkänna detta när han talar om hur nervositeten ökar ju närmare att AGI, (t.o m superintelligens), vi kommer. Altman är defensivt en "boomer".

Jag vet hur det kommer att låta här:

Alarmisterna: "Aaaa, han Kommer att medverka till mänsklighetens död"

Skeptikerna:"Se hur han försöker hållaliv i det dödsdömda OpenAI ett eller två år till"

Och ev. antisemiter: "Både Altman och den som intervjuar honom är judar, aaah en stor konsipration!"

Jag fick uppleva en kort stund med trygghet när Emmet Shear var aktuell som VD.

https://english.elpais.com/technology/2023-11-21/emmett-shear-the-new-head-of-openai-a-doomer-who-wants-to-curb-artificial-intelligence.html

Handen på hjärtat, hade inte det varit bättre?

Nej, det hade inte varit bättre för vare sig mig eller mänskligheten. Det är en bra bit kvar till ens ett svag AGI, hur lång tid det kommer att ta vet vi inte. Innan dess behöver man inte sätta in säkerhetsåtgärder med avseende på ett existentiell hot mot mänskligheten, annat än de saker som diskuteras idag och där människor finns i loopen.

Förstår inte riktigt varför så många verkar fokusera på enbart OpenAI. Det är många stora företag ned mycket resurser som håller på att utveckla olika typer av AI, och vi vet inte vilket som kommer att lyckas först med ett riktigt AGI, men kan garantera att det finns väldigt många olika sätt att se på var man ska sätta gränserna, om man ens vill ha några.

Det kommer att hända, men när eller av vem vet vi inte idag.

Det är något underligt med gruppdynamiken under ledare med vissa psykotiska drag och de är de anställda på OAI knappast ensamma om att ha drabbats av. De är nog vanliga hyggliga människor som många är framstående inom sina respektive discipliner.

Ai och säkerheten kring denna är förstås mycket större än OAI:s olika projekt. Ingen tror väl att de är ”ansvariga” för något utom just för sina egna projekt.

Jag tror inte våra politiker löser detta tyvärr. Det tog ju 20 år att skriva ett globalt klimatavtal. Och det blev ett ganska dåligt avtal enligt bl.a. Greenpeace. Varför skulle världen vara mycket bättre på AGI-avtal? Förklara gärna det.

Årets VD är ett pris som folk skulle kunna mörda för att få. Måste kännas hur grymt som helst att få basa över en sån tillväxtraket. Han förblir nog också branschens posterboy ett par år till. Eftersom han aldrig någonsin kommer behöva stöta på någon av Johnnys hypotetiska väggar.

Märk väl hur språket har förändrats. Det var vad jag kan minnas inte särskilt längesen som man försökte tona ner hajpen genom att säga att klivet till ASI var fasansfullt långt. Eller att AGI skulle ta jobbigt länge för att uppnå. Men den uppfattningen delade uppenbarligen inte ledningen. Bland dem tycks tonläget ha varit högt uppskruvat. Över framstegen man gjort in-house.

https://twitter.com/apples_jimmy/status/1735031696800800814

Vi får väl se hur det går. Sam Altman har tidigare tala om AGI som "samma nivå som en genomsnittlig människa" . Nu verkar han tala om en närmast övermänsklig nivå. Iof är detta i linje med Leggs ursprungliga definition, men då diskuterades inte ASI så mycket. Jag kanske får gå tillbaka till min definition i mars, som alla skällde på: "AGI = lika smart existens som den sammanlagda intelligens som samtliga människor på jorden har", Iof betecknar Kurtzweil det som singulariteten. Jag tror snarare att singularitet en är när/om en, bokstavlig intelligens-explosion äger rum, dvs en fördubbling av kapaciteten snabbare än en gång i sekunden. Hoppas dock att detta blir möjligt först när en stor majoritet av människorna själva valt att bli cyborger.

OpenAI har uppgett att det inte blir någon GPT:s butik förrän i typ januari pga den interna turbulensen. Men de uppgav ändå att det skulle bli några framsteg i december vad gäller ChatGPT-4. Jag har ännu inte sett några.

Ilya Sutskrever verkar befinna sig i ett slags limbo:

https://x.com/LaksKaus/status/1734319585686425726?s=20

Här en artikel som försöker reda ut turerna på OpenAI:

https://www.businessinsider.com/what-sam-altman-did-so-bad-he-got-fired-openai-2023-12&post-bottom-piano-recommendations?r=US&IR=T

Kan Sutskrever vetat bromsa utvecklingen medan Altman ville köra på i full fart?

Vi vet inte och kan bara spekulera:

https://twitter.com/ShivamKumar212/status/1728068187478950196?t=g9CohbeQOPaE4aJmCL6UIw&s=19