OpenAI: Superintelligent AI inom 10 år.

Det är nu afrika har sin chans att gå om europa i utveckling om några år, efter sönderregleringen vi kommer ha här med alla de lagbokstjocka texter om hur EU ska förhålla sig till AI så lär väl faxen fortfarande ses som attraktiv när alla restriktionerna kommit på plats.

Tre tunga namn i OpenAI:s ledning har gått ut med ett uttalande där man poängterar att vi, redan nu, måste börja förbereda oss på att kunna hantera utvecklingen av superintelligent AI. De tror vi är där inom tio år.

https://openai.com/blog/governance-of-superintelligence

Så troligen så kommer GPT-5 utropas, som ett konventionellt AGI när modellen lanseras om maximalt ett år. (Enligt min definition så kommer den att vara, ingen/mycket svagt AGI).
Och jag tror de underskattar, den AI utveckling, de, själva leder. Konventionell Superintelligens lär vara här inom de närmaste 5 åren.

Men vad gäller de åtgärder, de tar upp, så är det bra om de kommer på plats så fort, som möjligt.


Okontroversiella definitioner:

Superintelligent AI, (ASI) :

Ett AI som överträffar människan mentalt på samtliga mentala områden.

Artificiell generell intelligens, (AGI):

Ett AI, som överträffar människan på mentala nyckel-områden.

:Teknisk singularitet:

När ett AI överträffar, den samlade mänskliga intelligensen på jorden.

Mina egna kontroversiella definitioner:

Superintelligens: Ett AI som är mer intelligent än Den samlade mänskliga intelligensen på jorden. Plus att detta AI är, vida överlägsen varje enskild människa på alla andra mentala områden. Vi kan vara där om ca 15-20 år om den nuvarande utvecklingstakten av AI håller i sig.

Artificiell generell intelligens, (AGI) : Ett AI som överträffar människan mentalt på samtliga mentala områden. Gör den inte, det så betecknar jag den som ingen/mycket svagt/svagt AGI. Vi är, dock bara, maximalt, några år ifrån svagt/medelstark AGI. Och maximalt fem år ifrån ett, starkt AGI, (motsvarande konventionell superintelligens).

Teknisk singularitet: När AI kapacitet fördubblas, snabbare än en gång i sekunden, (bokstavligen en intelligens explosion). Detta lär inte hända förrän vi alla blivit, cyrborger och vår maskincivilisation tycker det är en bra ide.

Diskutera OpenAI:s uttalande eller när olika milstolpar i AI utvecklingen kommer att ske. Diskussioner om olika definitioner av begrepp bör ha en undanskymd plats i tråden.

Jag har ju blivit mera skeptisk sedan jag startade tråden i och med att jag lärt mig om de tekniska begränsningarna hos LLM i t.ex förhållande till den mänskliga hjärnan. Men samtidigt så går den tekniska utvecklingen, precis som du skriver, extremt snabbt.

Open AI kommer att bygga en superdator till 2026, vilken, förmodligen, kommer att träna den "forskar-AI" som är tänkt att vara en länk mellan forskarna och den framtida AGI/ASI som OpenAI hoppas ha tills innan. 2030. Microsoft och OpenAI planerar sedan att bygga en enorm superdator tills 2028. Den kommer att kosta hiskeliga en biljon kronor, vilket är nästan en femtedel av Sveriges hela BNP! Eventuellt så kommer man också bygga en egen kraftstation för att driva hela härligheten! Det hela är, förstås, menat att användas för att träna OpenAI:s framtida AGI/ASI.

Så även fast jag är skeptisk och tror att det kommer att krävas såväl grundläggande förändringar i LLM:s funktionssätt som en enorm uppskalning för AGI/ASI så utesluter jag inte att OpenAI kommer att kunna lyckas. Gör de det så kommer ingen, ens här på Flashback, att kunna förneka att AI 2030 nått, minst, mänsklig generell mental/Existentiell nivå. Så, senast, 2028 måste vi kanske, på allvar fundera hur ett AGI/ASI skall hanteras. Jag utesluter inte ett mer eller mindre långt träningsstopp av fler sådana modeller innan vi funderat färdigt.

AI tränas av människor och människor förstör platsen de lever på och luften de andas. Du pratar om intelligens ?

Hur skulle en agi/asi se ut där man inte kan förneka att den är självmedveten? Vad ska den göra/säga?

Politikerna kan inte reglera nånting i dagsläget. ChatGPT är stulet.

OpenAI startade som en ideell stiftelse för att källkoden skulle vara öppen och demokratisk. Musk donerade 100 miljoner dollar till projektet. Idag har Microsoft och en av Googles grundare stulit källkoden och ingen pratar om det ens. Chargpt är redan programmerad att ta avstånd från vissa ideer och personer. Thats power. Utan Musk hade ChatGPT och AI inte varit där det är nu. Musk skall nu starta TruthGPT.