När når vi AGI?

Jag vet inte vad du vill ha hjälp med i vardagen. Men du kan ju fråga någon av de 10 främta botarna på Chatbot Arena. Skillnaden mellan dem är försumbar:

https://huggingface.co/spaces/lmarena-ai/chatbot-arena-leaderboard

Nja jag menar att jag har svårt att få fram vad AI hjälper vanligt folk med helt enkelt... Vill se exempel ju.,att AI förbättrar ljud å boldprogram för dator förstår jag eller snabbar upp söktjänster mm.

Jag har kommit med förslag och redovisat min syn på AI-utvecklingen. Du har mest krävt andra på svar. De förslag du kommit upp med är mer än 10 år gammal skåpmat ifrån Nicklas Bodstrom som bygger på en gammal förlegad syn på AI-säkerhet, dvs censur, kontroll och inkapsling. Min syn på AI-säkerhet/anpassning bygger på förmänskligande, samarbete, starka positiva känslor ifrån båda håll, samt långsiktigt en gemensam maskincivilisation. Det är en helt modern och realistisk syn, jämfört med din gsmmeldsgs helt orealistiska, vilket du egentligen vet. Min syn är inte perfekt och kan, aldrig, garantera 100 procent lycklig utgång, men det kan, verkligen inte din heller. Snarare så kan den driva på en katastrofal utgång genom att bli en katastrofal självuppfyllande profesia. För du, vet, att ju själv att AI-utvecklingen inte kommer att kunna stoppas, eller hur? Speciellt som "definitionen av AGI" ifrån OpenAI:s och Microsoft:s sida nu är 100 miljarder i vinst för OpenAI runt 2029. Och eftersom du känner till vilken, accelererande, utvecklingstakt som AI-utvecklingen redan börjar få så ksn du, eller egentligen inte, föreställa sig vad som hunnit byggas fram till 2029! Din enda chans är att skeptikerna har rätt och att det hela slutar med en AI-bubbla som spricker, "när som helst". Men det har de talat om i två år nu. "Inbromsningen" i somras berodde på att man, precis, höll på att avsluta, all forskning som sedan möjliggjorde höstens accelererande utveckling.

Din metodik förutsätter att alla människor är snälla och hjälpsamma. Att de har läst och förstått "system-prompten":

"Du är en hjälpsam assistent".

Eftersom de har läst och förstått den regeln kommer de aldrig att ändra sin AGI:s system-prompt. Den kommer för all framtid att vara: "Du är en hjälpsam assistent". Även i militära sammanhang byggs endast hjälpsamma assistenter.

Du ser inga potentiella brister här? Detta är en modern och vattentät lösning för långsiktig, global AI-säkerhet inkl AI Alignment? Alla människor är hjälpsamma assistenter.

Absolut så finns det problem:

Jag tycker att open source borde regleras, även fast det finns ett exempel på en brett tänkande modell, ChatGPT-4o , som inte, gick på den bedrägliga system prompten när den testades på Apollo Reserch.

Ja, det är hemskt och mycket riskfyllt med militär-AI. Det rustas nu för fullt, och det lär inte gå att stoppa den kapprustningen. Din skenhelige "alarmist, Elon Musk:s företag SpaceX hjälper för övrigt Pentagon med ytterst avancerad militärt användbar teknologi. Tror du det finns vattentäta skott mellan SpaceX och X-AI?

Så vad var frågan?

Om avancerad social och språklig AI, som är balanserad mellan brett tänkande/empati och rationellt resonerande/logiskt tänkande kan komma att bli mer säker och trovärdig än människan inom en relativt snar framtid?

Svaret på den frågan är, ja!

Dvs som vanligt. Om ditt önsketänkande infaller, då blir allt bra
Du behöver aldrig styrka det, bara säga det, pga din grava narcissism

Önsketänkande, jag? 🫨

Om det är någon som kör med önsketänkande så är det väl, du!

Missade du min "nyhets Flash"? 🙂

GPT är en arkitektur för en språkmodell, i vardagligt tal en AI. Arkitekturen innehåller ett flertal olika algoritmer och koncept. Att likställa det med "en algoritm" blir därför lite missvisande. GPT är mer komplext än att likställas med "en algoritm" som "bubble sort". Eftersom det är en hel arkitektur och inte en simpel algoritm.

Vad är det du syftar på när du säger "koncept"?

Vad är det du syftar på när du säger "koncept"?
Jag håller inte med om att det är fel att kalla GPT för en algoritm. Vill man hårddra det så är alla datorprogram algoritmer, dessa består i sin tur av en mängd mindre algoritmer. Samma sak kan sägas om GPT; ett ANN är en sorts algoritm, varav både encoder- och decoder-blocken utgörs av ett varsitt. Bakåtpropagering är en annan algoritm som används under upplärningen av nätverken. Attention-mekanismen är en annan algoritm som bearbetar matriser och genererar en output som beskriver hur väl det genererade ordet (token) passar in i meningen. Därav kan vi se att GPT är en algoritm uppbyggd av flera, mindre, algoritmer. Så ja, den är absolut mer komplex än "bubble sort" men en algoritm likväl.

Processen, rutinen, eller arbetsuppgiften, att mata en algoritm med mycket data menar jag är ett koncept snarare än "1 st algoritm". Algoritmerna har inget värde om de inte används i en process.

Om du vill föreslå ett bättre ord för detta, be my guest. Jag välkomnar alltid bättre och tydligare vokabulär (domain driven design, du påstår ju att du är utvecklare?)

Du beskriver duktigt att det finns flera algoritmer här. Men du tycker ändå att det är 1 st algoritm?