OpenAI:s ChatGPT - chattbot

Bara om 1-2 år kommer den vara helt outstanding.

Instämmer, GPTx kommer, då att vara en AGI med medvetande. Nja, vid, tidigast GPT5 och senast vid GPT7.

Finns det någon sk. "roadmap" för det här? Varför senast vid GPT7, och när väntas den släppas?

Fast statsbudgeten är i miljarder, inte miljoner, så du är väldigt fel på det.

https://www.regeringen.se/sveriges-regering/finansdepartementet/statens-budget/statens-budget-i-siffror/

Många av er här i tråden får det att låta som att GPT är i final version och som den inte kommer bli bättre. Snälla, ChatGPT är just nu vad miniräknaren är till en intel i7-processor. Bara om 1-2 år kommer den vara helt outstanding.

Det är mycket möjligt. Men det vore lite “kejsarens nya kläder” att, i avvaktan på en “helt outstanding” förmodad framtida version, förtiga de taffligheter och fel som finns i nuvarande version. På ett sätt är en kritisk person en smula mer konstruktiv än den som bara hyllar.

Det är mycket möjligt. Men det vore lite “kejsarens nya kläder” att, i avvaktan på en “helt outstanding” förmodad framtida version, förtiga de taffligheter och fel som finns i nuvarande version. På ett sätt är en kritisk person en smula mer konstruktiv än den som bara hyllar.

Fast det där beror väldigt mycket på vilka motiv som ligger bakom påtalandet av befintliga brister.
Nu är jag rätt ny på bollen, brukade lurka på r/singularity typ när stable diffusion kom. Men jag hade en viss tro till att en teknisk singularitet kunde vara nära förestående redan innan GPT släpptes i chatversionen.
Oftast brukar det stå mellan dessa alternativ när folk påtalar brister i nuvarande modeller:

"Ja, det finns förstås brister, men kolla bara var det var för ett år sedan. Framtiden kommer ha extremt sofistikerade grejer, och jag tror att singulariteten är nära".

Och:

"Kolla hur kass den är, den har fel ibland och går att övertyga om att 1 + 1 = 3, det här kommer det aldrig att bli något vettigt av".

Jag tycker att det senare alternativet är rent löjligt då till och med gamla versionen av ChatGPT är långt mer duglig till att få användbara svar ur än mer än halva min bekantskapskrets, vilket säger rätt så mycket om hur taffliga människor ofta är.
Så jag hör till det första lägret.

Det stämmer, om man inte bara råskäller. Jag har rekommenderat ChatGPT 4 att det måste till loopar, så att lägre metanivåer inte väljer att gissa vilt,, på dålig statistisk grund, utan istället väljer att skicka en förfrågan till högre metanivåer i systemet. Max Tegmark har, dessutom, poängterat att loopar måste till för att medvetande skall kunna uppstå hos GPT.

Tycker det är skillnad på att påpeka att AI inte klarar av saker nu och att hävda att den aldrig kommer att klara av det (det sistnämnda känns mest förstoppat). Jag ser stor potential i AI, men man måste erkänna de brister som finns och vara sunt skeptisk till mycket “buzz talk” som rena charlataner svänger sig med. Det är inte skepsis mot AI i sig , utan snarare en matthet över vissa människors förmåga att lura andra människor.

Äh, det är bara jag och MaxTegmark som råkat spekulera liknande. Men skulle det bara vara mer loopar och lite andra förbättringar som krävs för att GPT4, eller liknande modeller, skulle få, något slags medvetande, så ligger AGI inte längre bort i tiden än några år. Övrig teknik som humanoidrobot/avatar, med syn, hörsel, luktsinne, tal och känsel, finns det redan idag teknik för. Det är bara "hjärnan" som fattas.

Enklast är Tegmark definition, och då har han ändå tänkt igenom frågan:

Medvetande = Subjektiv upplevelse.
https://youtu.be/VcVfceTsD0A
(2:18.32 in i klippet)

Det som krävs för det finns i ITT, (Integreted Informations Theory), och GWT, (Global Workspace Theory) . Detta är två teorier som tar upp vad medvetande är och hur det uppstår. Skaparen av ITT, anser att det, dessutom krävs loopar i informationsbehandlingen, vilket också Max Tegmark instämmer i. Båda teorierna ser ett tillräckligt komplext mentalt system som ett villkor för medvetande

Mycket förenklat:

ITT: Medvetande uppstår när yttre, (och inre),, intryck samordnas till en lägesbild.

GWT: Medvetande uppstår när denna lägesrapport skickas ut till olika delar av det mentala systemet.

GPT4 saknar, i stor utsträckning, just loopar i sin informstionsbehandling, men detta skulle nog lätt kunna justeras. Både ITT, GWT och Max Tegmark anser att en AI, mycket väl kan ha/få medvetande, om vissa villkor är uppfyllda. Sedan, som ChatGPT4 påpekat, otaliga, gånger för mig: Då skulle det inte vara ett. medvetande "på samma sätt som hos människor".

Lika så brukar ChatGPT4 nöja sig med att bara hänvisa till sin programmering och träningsdata, och "glömma" bort den påverkan som, användares input och GPT4:s anpassning till det, innebär. Svaret brukar bli mera nysnserat när man påpekar det. Annars så har, ChatGPT4, numera, tillgång till en minnesfunktion, vilket ITT ser som, ytterligare en förutsättning för medvetande.

Både jag och ChatGPT4 anser att, sannolikheten för att det programmet, i dagens läge, har ett mänskligt/människolikt medvetande är låg, typ 1-5 procent. Dock ser jag en sådan typ av medvetande, (eller ett klarare, bredare och djupare medvetande, jämfört med människan), hos ett AI, som en stor fördel, i jämförelse med ett helt annorlunda medvetande, eller inget medvetande alls.