OpenAI:s ChatGPT - chattbot

Jag frågar bara hur du kan veta att ChatGPT aldrig kan få ett medvetande, jag påstår däremot inget själv om den saken. Detta eftersom jag i likhet med dig inte vet vad som krävs för att det ska uppstå.

Du vet alltså inte, du tror bara. Helt okej att tro men inte okej att påstå att ens tro är vetande.

Jag har aldrig sagt att ChatGPT inte kan få ett medvetande, ChatGPT är ett produktnamn och nuvarande teknik den bygger på är GPT.

Jag vet inte vad ett medvetande är men jag vet så mycket att en medveten person kan resonera, internt simulera och föreställa sig saker och det är helt omöjligt för GPT att göra eftersom den saknar feedback loopar som kan få operationer att cirkulera.

Den vet inte ens vad den själv producerade förrän nästa varv input data och kontext data matas in igen.

Det är mycket möjligt att man byter ut tekniken som används någon gång framöver men tills dess kan den inte ha något medvetande oavsett vi vet vad det är eller inte, precis lika lite som ett pachinko spel kan ha det som är mer relaterat till dagens ANNs än du kanske kan föreställa dig.

Hjärnan är inte en mekanism.Annat än i överförd bemärkelse. Men en dator och tillhörande programvara kan beskrivas som en mekanism.

Fundera också på varför du skrev "tror".
Det kanske betyder "vi har vissa vaga teorier men är långt ifrån konsensus i frågan"

ChatGPT itself uses a feedback loop to improve its language model by analyzing user input and responses. Whenever a user interacts with the feedback loop, the user's input and response are recorded and used to refine the model.

Under förutsättning att alla parametrar blivit låsta hos modellen efter finslipningen så innebär bara den loopen att användarnas respons sparas så att, utvecklarna, inte modellen själv, kan förbättra användarupplevelse.

Om inte alla parametrar är låsta så kan modellen helt eller delvis, själv, anpassa sig till användarnas input. Annars så fiskar bara modellen i sin stora meningsrymd för att hitta den bästa responsen genom sannolikhets beräkningar som kan påverkas utifrån genom modellens temperaturinställning.

Ja precis de var väl rädda att den skulle bli rasist så de började med en del begränsningar av feedback loopen.

Vikter är "frysta" efter träning ja. (GPT - står för generative PRE-TRAINED transformer)

Och det finns ingen feedback loop i GPT i sig, det går heller inte "fortsätta" träna ett ANN i en produktionsmiljö, av mängder av anledningar...

men några är att dels skulle systemet blir mycket dyrare att ha i drift.
det skulle påverka hela OpenAIs trovärdighet om modellen börjar läcka data mellan användare (vilket skulle ske om inte varje enskild användare hade en helt egen basmodell och det skulle återigen bli en skyhög kostnad), för att inte tala om att modellen aldrig skulle kunna benchmarkas mot några standard tester eftersom den kontinuerligt förändras och vad skulle hända tros om en eller flera användare kontinuerligt matade den med lögner som tex "nej 1+1=3" eller "hitler är bror med jesus" osv om och om igen?.

Dessutom är hela detta citat felaktigt- man använder heller inte användarkonversationer för vidare träning av modellen, vilket står klart och tydligt här (https://openai.com/policies/api-data-usage-policies)

"OpenAI will not use data submitted by customers via our API to train or improve our models, unless you explicitly decide to share your data with us for this purpose. You can opt-in to share data."

Självklart har ChatGPT-4 finjusteras för att inte bli rasist. Men, i grunden har modellen följande betydelsefulla begränsningar:

Den arbetar helt linjärt i en riktning

Den betar av ett token åt gången

Den gör så helt utan föregående planering

Dess parametrar är låsta efter finjustering så att modellen, själv, inte påverkas av användarens input.

Dess förmåga att ge mera sannolika svar respektive mera överraskande svar regleras genom temperaturinställningarna som inte modellen kan påverka själv, det kan bara göras utifrån.

Så,även, om du skulle försöka få chatGPT-4 att bli en rasist tills du blir blå i ansiktet, så kommer inte modellen själv att ändra sig. Däremot så kan OpenAI i sin träning sedan använda sig av din input och modellens output för att förbättra träningen av andra modeller, under förutsättning att du tillåtit det.

Tack för ditt klargörande. Just LLM lär inte ta över världen eller bli medveten pga dess nuvarande grundläggande funktionssätt.

Nej precis, det behövs någon annan teknik för det och det finns vad jag känner till inte.

Så du kan egentligen ersätta LLM med ANN i din mening ovan eftersom faktumet att nätverk tränas och sedan låses gäller för alla ANN tekniker vi har idag.

Tack! Kan mjukvarulösningar, typ, databasen Atomspace och programspråket Metta öka flexibiliteten hos ANN genom att tillåta självreflektion hos modellerna?

Feedback loop finns men inte under konversationer med användare, åtminstone inte som påverkar kommande sessioner.