Sam Altman sparkades från OpenAI - nu åter tillbaka

Pinsam cirkus. Altman är inte den som sitter på lösningen och AI direkt. Intressant när man läser om chapgpt, det stora framsteget gjordes främst i extremt omfattande och stora neurala nätverk. Nu har fler och fler fundamentet att bygga stora LLMs

Det har inget med AI:n att göra utan att interna konflikter ger dåliga signaler till investerare, en styrelse har i uppgift att hålla och upprätthålla en plan framåt för företaget, något de kommunicerar till aktieägare.

Det gjorde inte här, undantaget en person (Mira Murati) som fick veta vad som skulle hända en dag innan så fick alla andra veta på fredagskvällen, man informerade inte aktieägare och i synnerhet inte den största. Man utför det en dag då verksamheter slår igen och kanske mest av allt så verkar man ha enormt dålig koll på vad medarbetarna tycker eftersom flera sade upp sig (och enligt rykten en hel drös till som kommer göra det i början på veckan).

Ja det finns massor bolag som både har kapacitet och kompetens att göra sådant här, det är inte slutet för stora språkmodeller oavsett om OpenAI gör belly up under veckan och de som tror att Ilya Sutskever är nödvändig för avancemanget är uppenbart fel ute.

Min egen teori är att just chatgpt INTE är världens mest revolutionerande företag, att AI INTE kommer att ge företag några vinster bara normal effektivisering, att AI-bolag därför INTE kan tjäna några särskilda pengar., och att detta börjar bli uppenbart. Antingen ville Sam gå ut med detta, eller så ville han mörka detta.

Jag har jobbat med datorer i 40 år.

Okej, förklara gärna vad du baserar den teorin på.

Då man tittar på om någonting är revolutionerande eller ej så måste man vidga sin vy och blicka framåt, och inte bara titta på var tekniken är exakt nu eller i närtid. Det som är uppenbart för dig är motsatsen för mig. För mig börjar det nu bli uppenbart att det här är nästa stora omvälvande tekniksprång som kommer förändra världen. Sen om det blir fantastiskt eller katastrof. Det är oklart.

För ett år sedan kunde du använda LLM:s till att skriva dig ett julrim med lite parametrar du själv valt.
Nu kan man be LLM:s göra kod som skapar de enklaste typerna av spel (typ pong)
Om ett eller två år kan du i vanlig text tala om vilken app du vill ha och den skapar den åt dig i stället för att du köper en färdig app.

Om fem år har vi en everything plattform där du via vanligt mänsklig språk som interface ber appen göra din bokföring, redigera dina bilder, klippa företagsfilmen, generera din specialanpassade porrfilm som du kan kolla på, boka flygbiljetten och hotellet till semestern med familjen och skicka fakturor och dessutom få förslag på matchningar i ditt närområde som du kan dejta för utomäktenskapliga äventyr.

Jag tror man kan tjäna lite pengar där om man har plattformen som tar en liten slant för varje bokförd transaktion, genererad film, eller flygbiljett eller matchning. Dystopiskt? Ja kanske. Hoppas jag på att AGI landar på ett bättre sätt i världen än på detta sätt? Ja.

Sen kan vi ju koppla ihop AI på det stora hela med fysiska maskiner.
Var var Tesla Bot för ett år sedan? Var är de exakt just nu? Var är de om bara ett år och var är de om 10 år?

Sitter det en LLM:s som har AGI-nivå i en Tesla Bot och den rent mekaniskt har samma eller bättre mobilitet och styrka än en människa och detta kopplat till att man löst den visuella omvärldsuppfattningen så tror jag det kanske ändå är lite revolutionerande.
För industrin, för krigsindustrin, för sexindustrin, för hemtjänsten i länder där familjen inte tar hand om sina gamla.

Sen om det är OpenAI som blir en av de stora plattformarna eller andra aktörer. Det är oklart men Open AI är absolut en kandidat som kan gå från Unicorn till supermega-bolag liknande Google.

Han sparkas eftersom han har nämnt den existentiella risken.
Inte bra om du vill sälja fler abonnemang.
Detta är extremt dåligt. Sam var inte helt 100, men det kommer bli sämre nu. Mer sälj antagligen.
Jag sänker prognosen för mänsklighetens kvarvarande livslängd från 10 till 5 år.

Ingen utanför OpenAI boardroom har insikt i exakt varför styrelsen kickade sama men bland de som är i cirkeln runt OpenAI och har lite mer koll än gemene man så anses Sam absolut ha en stor riskmedvetenhet men Ilya är den som anses vara ännu mer försiktig och riskmedveten.

Sam ska ha gasat mer och Ilya bromsat mer då det kommer till affärsmässiga planer enl de i AI-världen som är närmre dem.

Nja. I egenskap av att ha använt både ChatGPT3.5+4 samt Google Bard en hel del, finner jag det relativt osannolikt att bägge skulle röra sig om samma modell. GPTs output är mycket mera processad; Bard kan t.ex. spy ut sig något block ur ett offentligt kodrepositorie oförsiktigt utan omtanke eller kontext.
GPT försöker anpassa outputen mera i t.ex. programmeringsuppgifter; Bard lämnar det sista av handpåläggningen till användaren - vilket i vissa fall kan vara bra, lägre risk att roboten gjort nåt riktigt dumt.

Och internet kommer aldrig bli något heller? chatGPTs 100 miljoner använder har inget nytta av att använda produkten? Företag tjänar inte pengar på effektivicering? I stort sett hela techvärlden investerar i teknink som de inte kan tjäna pengar på?
Vet inte vad du gjort med datorer i 40 år men låter som du inte riktigt hänger med i utvecklingen här.

Om de utvecklar en AGI inom ett par år, och så verkar det nu, då kommer ingen människas försiktighet eller vårdslöshet att spela någon jävla roll. Därför måste de tvärnita nu men den CEO:n finns inte.

Dispyten mellan Sam och Ilya ligger sannolikt i att de inte kommer överens om vad som är AGI. Mer komplicerat än så är det förmodligen inte. Sam har ju tänkt bygga AI-chip, AI-apparater och jag vet inte vad vid sidan av bolaget, så Ilya såg säkert med oro på Sams febriga dollardrömmar. Och hade Ilya förvarnat Sam om avpolletteringen så skulle sannolikt situationen mellan de två blivit än mer toxisk. Irreparabel rentav. Då en deklarering om AGI skulle krossa Sams farliga dollarfantasi.

We have a clause in our Charter about assisting other organizations to advance safety instead of racing with them in late-stage AGI development. We have a cap on the returns our shareholders can earn so that we aren’t incentivized to attempt to capture value without bound and risk deploying something potentially catastrophically dangerous (and of course as a way to share the benefits with society). We have a nonprofit that governs us and lets us operate for the good of humanity (and can override any for-profit interests), including letting us do things like cancel our equity obligations to shareholders if needed for safety and sponsor the world’s most comprehensive UBI experiment.

https://openai.com/blog/planning-for-agi-and-beyond

Dom måste vara tydliga och ÖPPNA med konflikten och varför. Vet ni vad jag är mest rädd för Open chat AI. Det är att vissa woke-människor kommer censurera den till att bli woke för politiska syften, och ljuga om uppenbara historiska fakta och vetenskapliga fakta om folkgrupper och politik.

Sen är ju faran med AI på ett annat plan också.

Antingen också handlar striden om att censurera.
Säkerheten för människan
i och med AI eller helt enkel om den ska vara insyn och demokratisk eller ett instrument för kapital, till exempel mutor av intressegrupper och individer. Själva grejen med Chatt-AI är ju att den ska vara "objektiv".