OpenAI:s ChatGPT - chattbot

Du kan ju inte ens beskriva egenskaperna som ett medvetande har, hur kan du då påstå att människan har det och att AI aldrig kan få det?

Vad exakt menar du människan har och AI aldrig kan få?

Jaha, då testade jag ett annat användingsområde. Fråga vart jag kan köpa X i Stockholm. Jag fick en lista på fem affärer. Fyra finns. Den femte har jag aldrig hört talas om. Jag frågade vart den låg. Fick en adress. Fanns ingen affär med det namnet i Stockholm, definitivt inte på den adressen. Frågar vart ChatGPT fått inon om den här affären:

Jag ber om en länk till vart ChatGPT hittat infon. Jag får en länk till en hemsida som inte existerar. Jag påperkar att den inte existerar. ChatGPT ursäktar sig och det har varit "confusion" med namnet på affären. Får ett nytt namn och en ny hemsidelänk. Inget av det finns. Jag påpekar det. I det här läget get ChatGPT upp med sina lögner:


Har mytomanen ChatGPT börjat ljuga mer eller var det så här redan vid lanseringen?

Termen som de använder är att den ”hallucinerar”, och så har det varit från början. Riktigt varför den gör det och hur man förbättrar den tror jag ingen vet, och det är ett mer generellt problem att vi inte vet vad som händer inne i maskinen. Det pågår mycket forskning om ”mechanistic interpretability” där man försöker ta reda på exakt hur den kommer fram till sina slutsatser men det finns mycket kvar att göra där. Idag är LLMs en svart låda för människor.

Det mesta jag skrivit för att inte säga allt tror jag är de flesta uppfattar som självklarheter och standardkunskap, om du inte tror mig så fråga chatgpt.

Har själv gjort en hel del till python i c++ för det är ofta så man jobbar. Grundfunktionalitet görs i c++ med ett smidigt API för pythonanvändare så de kan "skripta" funktionalitet via python. Vanligt i forskarvärlden bl.a.

Jag tycker den var mycket bättre från början, men sedan har de blivit tvungen att begränsa den eftersom den ska läsa av människor, och vi vet alla hur retards de allra flesta är, så den blir dummare och dummare helt enkelt.

Den är duktig på att analysera dokument, duktig på historia, kemi, vetenskap. Faktabaserade saker. Sedan måste du ha i åtanke att ChatGPT har varit ute i 5 månader och slår 90% i "The bar exam" som är för blivande advokater.


Så jo, ge den något år ska du få se. Den blir bättre för varje dag.

Jag tror konspiatoriskt att skaparna medvetet får ChatGPT att "hallucinera" emellanåt för att vi männniskoapor skall reagera och inte lita 100% på den. De samlar även info om hur vi reagerar när vi blir missledda för att lära sig. Det är VI människoapor som är labbråttorna.

Det låter inte helt taget ur luften, men det känns som mytomanen ChatGPT lögnhallucinerar för mycket för att det skulle vara planterat med flit. Jag tror den har lögnhallucinerat i samtliga ämnen jag testat utom ett.

Nej, jag kommer inte fråga mytomanen ChatGPT. Det märktes alldelesbums att du inte kommenterar då man påpekar fel i din info och inte kommer hänvisa till källor. Jag kommer inte ta upp vilka felaktiga uppgifter du kommer med här i tråden igen, om det inte är något som är helt bananas och påverkar diskussionen kring ChatGPT i sig.

Men chatgpt du använder har väl fortfarande inte tillgång till webben? Den bygger på gammalt indexerat innehåll, och mycket från Sverige saknas. Då hallucinerar den istället för att medge att den saknar info.

Det du försöker borde fungerar bättre på chatgpt som Bing implementerat på sin sida

Eller har den gratis versionen på openai-sidan nu möjlighet att läsa och sammanfatta innehållet i en url man ger den? (Nej det har den inte, testade just)

Utefter den information jag får så verkar det som om chatgpt hos Bing suger in ny information från webben också, och att det inte stannat 2021.

Jag är ärligt intresserad av att veta vad exakt du tycker är fel i det jag sagt för du har inte pekat på något speciellt utan det är mer svepande "det är fel" utan förklaring.

Ta en enda grej och beskriv kort med en rad eller två där du anser jag har skrivit fel, skulle uppskatta det

Observera att jag också tycker hypen om ChatGPT är kraftigt överdriven

Det är ganska OT. Men här är två:

Assembler assembleras till maskinkod. Maskinkod är bara ettor och nollor.

Python-interpretern (vad heter det på svenska?) är gjord i C. Exakt vad du menar med det här ovan är svårt att förstå, men du får det att låta som den skulle vara gjord i C++.