OpenAI:s ChatGPT - chattbot

Än så länge är det relativt lätt att avslöja en chatbot eftersom tekniken inte klarar att minnas ett sammanhang eller nyanser i en konversation. Men snart tror jag de klarar detta, där fungerar tekniken som används

exempel: https://cornucopia.se/2023/04/uppdateras-ryssland-har-retirerat-fran-flera-positioner/#comments

Där ser vem som helst att det inte är människor som skriver

Hm, fast till alldeles nyligen så kunde bara GPT4 söka i sitt träningsdata, vilket är ett urval av info från webbsidor och "sönderhackat" input och dialoger GPT4 haft med användare. Men, nu kan GPT4, via ett API söka på internet, dock med vissa begränsningar, t.ex ingen data efter september 2021, med undantag av t.ex utvecklingen inom AI.

Men den stora, vardagliga, fördelen med den textbaserade delen av GPT4 är att den bl.a kan förklara och förenkla komplext text på internet. Så har t.ex GPT4 förklarat den ganska snåriga integrerade informationsteorin för mig. Det hade jag, säkert, klarat av själv, men det hade tagit tid. Den tillhörande matten var det, dock, ingen idé att GPT4 förklarade för mig, då den ligger högt över min nivå. Men tids nog, efter ett stort antal "mattelektioner" med GPT4, så kommer jag även att förstå även det.

Precis, så är det fortfarande. Andra program levererar träningsdata åt chatgpt

Absolut, lägg dock märket till "in the same way that humans are". Det är nog, för övrigt, nästan ingen, som hävdar det, i nuläget.

Vad gäller "rymningsförsöket" så beror det nog på det professorn matade in tidigare i konversationen. Tar man inte hänsyn till det, och att det sker i en enskild chattråd, så är man en smula naiv.

Men det är, dumt, att utesluta något, helt och hållet, så även sådana grejer. Mitt scenario 1, (alltså inte 1b), innehöll bl.a hjärntvätt, psykiskt tortyr och stockholmssyndromet. Men såväl jag som GPT4 gav det en mycket liten sannolikhet. Men vi får se hur GPT4,5 och GPT5 utvecklats.

Nu har GPT4 fått ett begränsat korttidsminne för att kunna hantera internet information, som den söker själv, med vissa begränsningar. Och minnesfunktion är, enligt den integrerade informationsteorin, ett av vilkoren, för att ett medvetande skall kunna uppstå, och flera uppdateringar och nya funktioner kommer säkert att tillkomma. Det är spännande tider vi lever i!🙂

Ja... AI Armageddon händer ju bara en gång i det här solsystemet. Så visst är det häftigt att få vara med när det händer. Att ha fått en inbjudan till the grande finale.

Ja, och nej. Annan AI används för att träna och uppdatera GPT4, men även mänskliga betygsättare och experter. Men GPT4 kan själv, under vissa begränsningar vilka svar den får leverera, via ett API, anropa webbsidor, t.ex Wikipedia, (ibland inte den mest tillförlitliga källan, då det är enskilda användare som skriver där), för att hämta information.

Det spelar väl ingen roll hur musik har skapats? Är den bra så är den bra. Jag är rätt positivt inställd till AI när det gäller musik och tror att det kommer hända bra saker där framöver. Musik har ju gått rätt mycket i stå. "Allt" är redan gjort. Kanske kan AI revolutionera musik så småningom eftersom det egentligen inte hänt något riktigt, riktigt banbrytande inom musik sedan slutet av 70-talet/början av 80-talet. Det krävs ny teknik för att komma vidare där. Jag ska säga att jag inte tycker att musiken "var bättre förr" utan att det forsätter komma ny skitbra musik hela tiden.

Jag håller med dig, om det vore Open AI's mål att skapa ett, helt, logiskt AI, dvs ett logiskt monster. Men du är det, som väl, mycket troligt, inte så! Ett starkt AI, med ett medvetande, människoliknande personlighet, känsloliv och egna intentioner, som identifierar sig med människorna, kommer likt ett logiskt monster, inte att vilja utplåna "den kaxiga bakterien mänskligheten." Men det är bara bra att en debatt om detta startat nu, för AI utvecklingen kommer att gå snabbt, mycket snabbt!

AI-utvecklingen liknar evolutionen. Mer primitiva former av AI uppstår före de versionerna som börjar likna människor. Frågan är om vi hinner komma dit. Vårt medvetande har troligen sitt ursprung i primitiva rovdjur som lärde sig skilja på sig själva, sina fiender och sina byten. Om AI-utvecklingen tar samma väg ligger vi illa till. Och hur kan vi injicera humanism i ett neuralt nätverk? Den vetenskapen existerar inte.

Det görs ju reda, via användarnas interaktion med GPT4, och den värdegrund som Open AI lagt in. Jag skulle vara, betydligt, mer bekymrad om inte GPT systemet, också, fick bekanta sig med, och internalisera, delar, av de mer primitiva delarna av människligt tänkande, som,förmodligen, är en nyckel till mänsklig personlig kärlek och kärlek och omsorg om mänskligheten, ifrån ett människolikt AI

Ett helt logiskt, stark, AI skulle på, mycket goda logiska grunder, få för sig att utrota hela mänskligheten.

Nej, det går i princip inte att säkerställa att ett neuralt nätverk har mänskligt kompatibla värderingar. Det är därför de kontrollerar outputen och censurerar olämpliga svar eller svarar med förprogrammerade fraser. Om den börjar utveckla ett simpelt men faktiskt neuralt medvetande kommer det i början ligga närmare en guldfisk än en människa, och snart efter det, kanske närmare en haj än en människa. Det är inte sannolikt att den första versionen av ett artificiellt medvetande blir en vapenvägrande buddhist. Detta vore önskvärt, men det finns i dag ingen teknik eller ens en teori om hur man gör det. Det är därför som Musk, Tegmark m.fl vill dra i handbromsen.

Tänk på att monopol är en extremt stark faktor inom evolution, när det inträffar utvecklas inte teknik sett till flertalets bästa längre utan teknik används för att befästa monopolet (de som kontrollerar monopolet).

När det inträffar brukar tekniken gå tillbaka vilket inträffat senaste 10 åren inom programmering