OpenAI:s ChatGPT - chattbot

Nu har jag inte testat ChatGPT själv utan följer tråden här och ser lite videos om det. Av vad jag kan läsa här i tråden verkar det ju som man inte kan lita på någon fakta alls som kommer från ChatGPT. Det begränsar ju användningsområdet en hel del då.

Är det någon som vet hur mycket minne ChatGPT har? Minne likt den mänskilga hjärnan då. Som ska ha kring 2.5 petabyte = 2.5 miljoner gigabyte. I minneskapacitet borde ju AIn kunna bräcka människan ganska enkelt.

Den spottar ur sig extremt mycket felaktiga svar faktiskt. Vi får se hur den utvecklas med tiden då den är bra när den svarar rätt om än ständiga utläggningar för att "nyansera" vilken harmlös fråga som helst.

Det är att överdriva en aning, men visst blir det fel rätt ofta, men har inte sett några siffror på hur illa det är.
Beror helt på vilka frågor man ställer dessutom.

Att den ändå kan vara ett användbart verktyg i olika sammanhang råder det nog inga tvivel om.

Problemet uppstår när folk inte fattar begränsningarna, litar blint på "AI:n" och börjar producera felaktig information med hjälp av den här typen av system. Eller gör det medvetet.

När sedan nästa version av chatGPT tränas på den felaktiga information som den redan producerat så är risken att det går åt pepparn...

Vet inte om det finns någon officiell tech spec på GPT-3.5 och ChatGPT ännu.

"ChatGPT is fine-tuned from a model in the GPT-3.5 series, which finished training in early 2022. "

Det brukar finnas olika storlekar av samma modell för olika tillämpningar.

Såg nån siffra på att GPT-3 var tränad på 570 GB data och har upp till 175 Miljarder parametrar beroende på variant.

ChatGPT är antagligen klart mindre än så, men kan ändå vara bättre på "konversation".

Vad innebär parametrar här? Och hur fungerar minnet: suger den i sig alla 570 GB till ett minne, eller har den någon slags selektivt minne? Det låter som det är väldigt långt kvar till det mänskilga minnet då, eller?

Parametrarna är bara numeriska värden (vikter) som justeras allt eftersom man tränar modellen.
Det lagras alltså ingen ursprunglig information i modellen på det sätt man skulle kunna tro.

En enkel analogi är en rät linje som kan beskrivas med en funktion/modell enligt: y = k*x + b.

Har man ett antal datapunkter som liknar en rät linje så kan man beräkna vilka k- och b-värden som passar bäst för att beskriva en rät linje genom punkterna.

Frågar man sedan funktionen/modellen om y utifrån valfritt x så får man tillbaka en approximation av den information som datapunkterna innehöll. Detta enkla exempel klaras alltså av med 2 parametrar (k och b).

På liknade sätt är ChatGPT en gigantisk funktion (med miljarder parametrar, istället för 2) som genererar den mest troliga texten utifrån den fråga/prompt den får som input.

Det är verkligen inte överdrivet. Första gången jag använde skiten så svarade den fel på precis allt. Har redovisat frågor och svar här i tråden.

Här en intressant video om hårdvaran:
https://youtube.com/watch?v=4q9-yf1eU8c&feature=shares

Rubriken borde ändras. Den här AI:n är snarare en uppvisning på hur mycket felaktigheter en bot kan hitta på. Till och med länkar som aldrig existerat lyckas den hitta på!

Det största problemet med ChatGPT är att väldigt många inte har förstått vad det egentligen är och använder den fel. Den är inte en ersättare till en vanlig sökmotor, wikipedia, eller liknande. Och fram för allt inte en ersättare till system som håller på med konkret fakta och beräkningar.

Den har ingen aning om vad den säger, utan det är byggt på statistik och matematiska modeller baserat på massor med befintliga texter. Enda den vet om att 1+1=2 är för att den har läst det, den har ingen som helst matematisk kompetens.

Sen är det egentligen inte ens ett AI heller.

Med det sagt, precis som nästan alla verktyg kan det vara väldigt kraftfullt använt på rätt sätt till rätt saker!

Bra sammanfattat.