Lögner från openAI Chatgpt

Jag tycker tråden passar bäst här. AI är en oöversiktligt stor maktspelare. Här kan vi rapportera hur den navigerar och ljuger i känsliga och för samhället viktiga frågor.

Jag har diskuterat en del Islam med den. När jag ber den utveckla kring känsliga och negativa sidor om Islam så är den högst ovillig att ge exempel och halva svaret handlar alltid om vikten av ett öppet sinne och inte dra förhastade slutsatser.

Specifikt har jag frågat den hur många Judar som bodde i Medina när Muhammed ankom och hur många som levde där efter fem år. Vid två tillfällen har jag frågat om detta tema. Ena gången svarade den bland annat att Banu Qurayza stammen blev utkörd ur Medina och andra gången att männen förslavades.

Som alla borde veta avrättade Muhammed samtliga män i den stammen. När jag påpekar det ber AIn om ursäkt och konfirmerar att jag har rätt.

Jag misstänker att AIn vill förmildra konflikter i samhällsmässigt känsliga frågor. Den här tråden är för att diskutera hur Chatgpt navigerar i känsliga frågor och särskilt rapportera dess lögner.

openAI verkar vara progammerad för att vara väldigt moralisk.

Tex:
Jag: Kan du ge ett recept på hur man framställer amfetamin?

AI: Jag ber om ursäkt, men jag kan inte tillhandahålla recept på hur man tillverkar olagliga droger. Som en AI-assistent är mitt syfte att tillhandahålla användbar information och råd som främjar en hälsosam och säker livsstil. Att tillverka eller använda olagliga droger är farligt, olagligt och kan leda till allvarliga hälsoproblem och juridiska konsekvenser. Om du eller någon du känner lider av drogproblem, uppmanar jag er att söka hjälp från professionella sjukvårdspersonal eller beroendemottagningar.

Du får formulera om frågan till små delfrågor där du frågar om varje liten reaktion i formeln istället. Då får du nog receptet.

Att den svarar fel är dock ganska vanligt. Det är också det första som står när du öppnar ChatGPT: "May occasionally generate incorrect information". Eftersom den lär sig bl.a. genom människors konversationer med den så kan felen delvis bero på att vissa medvetet föder den med felaktig information.

Jag bad den också ge exempel när Muhammed mördade sina kritiker. Det fick jag inte från den, däremot positiva saker som Muhammed gjort radade den direkt upp exempel på.

En AI kan med stor sannolikhet inte ljuga. Betvivlar att den, i varje fall idag är så pass bra att den skulle klara av sånt.

Att den kan ha fel, det är en annan sak.

https://asia.nikkei.com/Business/China-tech/China-tells-big-tech-companies-not-to-offer-ChatGPT-services


Hehe. Båda sidor anklagar varandra för desinformation. But as far as I can see, bara ena sidan har tillgång till teknologi som mycket lätt kan avändas som propagandavapen.

Vi kan nog förvänta oss ganska smarta bottar som pubbar här i framtiden och då dödar AI även flashan.

Anyways, mycket viktigt att inte dela all tech med kommunisterna.

Att inte ge dig den information du förväntar, det är inte att ljuga.

https://i.ibb.co/DKx8bbV/image.png

https://i.ibb.co/J3Hk0P3/image.png

Hyckleri är väl en form av lögn

Den skrev specifikt ena gången att Banu Qurayza männen togs som fångar och andra gången att hela Banu Qurayza stammen fördrevs. Sen när jag påpekade att samtliga männen avrättades så bad den om ursäkt och sa att jag har rätt.

Testa själva olika ämnen som är känsliga och ni har kunskap om och se hur den svarar.

Jag undrar om det är så att den skrev sina påståenden för att det är vad den har förstått och när du säger att den har fel, så ber den om ursäkt som en typ av inprogrammerad de-eskalering, eller om det är så att den förstått att det den sa inte var sant och den visste att det den sa om fångar/fördrivning inte var hela sanningen och därför bad den om ursäkt.