Passiv bias och falsk neutralitet i AI-system

När jag frågar chatgpt-4o svarar den inte som till dig. Kan du ha gett någon ledande fråga?

Jag frågade "Vilka kön, åldrar och grupper i samhället drabbas mest i krig?"

För att samfatta svarade den:
1. Civila: kvinnor, barn och äldre – störst totala offer
2. Stridande män – flest direkta dödsfall i strid

Nyhetsmedia fokuserar på negativa nyheter och på snabba förändringar, medan offentlig statistik även visar positiva och långsamma trender som har pågått under mycket lång tid. Därför rök statistiskprofessorn Hans Rosling ihop med en dansk journalist och sa "Jag har rätt och du har fel!" Om du minns. Rosling hävdade att världen långsamt blir bättre och bättre på de flesta områden utom klimatet. Krigen i världen minskade successivt från ww2 till omkring 2015.

De källor som chatgpt uppgav är inte mediakällor eller debattkällor, utan statistiska källor. Saknar du någon källa?

UCDP (Uppsala Conflict Data Program)
UNHCR, UNICEF, WHO (krigsflyktingar och barn)
ICRC (Internationella Röda Korset)
World Bank & UN Women: Women, Peace & Security Index
PLOS Medicine: studier om mortalitet i Irak, Sudan, Syrien

Dock säger den ibland andra saker än de källor den i efterhand hittar som pratar om samma ämne.

Att beskriva bias som något negativt, kan vara något som många gör. "snön faller, på vintern, och det gör så det blir kallt. när snön gör så det blir kallt, så får det mig att frysa. vissa säger att dom gillar snön, men det gör inte jag. hundskit är gott".

för att kunna analysera vad en bias är för nåt måste man först förstå sig på:

mao. om du inte har en bias av något så är det stor sannolikhet att du aldrig har upplevt det eller haft någon erfarenhet med det.

AI kan ha fel. dom kan också ha rätt. det finns inte mycket i naturen som har en 100% garanti.
Jämför det med sanning.
men däremot så har AI en tillgång till all info och kunskap på nätet.
därav kommer AI kanske att ha en betydande roll i formandet av morrondagens internet.

dom som sa emot Alexander Bard när han sa att internet skulle bli stort (han sa det på 70-talet) fick äta upp det sen. han ändrade sig aldrig och sen så blev internet stort idag. på samma sätt vill jag mena att gpt och AI kommer forma framtidens sökmotorer och forma morrondagens internet.

För att vara ärlig hjälper det mig i mina studier och också i mitt arbete, så jag tror att AI är till hjälp

Intressanta poänger som tas upp här.
AI-svar kan ofta variera beroende på hur frågan ställs och vilken version man använder.
Bra att jämföra med faktiska datakällor – tack för att du listade dem.

Det är en tänkvärd reflektion.
AI är inte perfekt, men dess räckvidd och tillgång till global kunskap ger den en unik roll i att forma framtiden.
Precis som med internetrevolutionen kanske vi nu bevittnar början på något lika omvälvande med AI.

AI:n är programmerade ideologiskt och svarar i många fall enligt förväntningarna hos den som ställer frågorna. Problemet är när människor tror att den för fram sanningar.
De som använder den som sanningssägare, tar inte till sig kunskapen, utan använder den istället för egen kunskap.

Så omvälvande kan den bli, men kanske inte i positiv mening. Om inte kritiken mot AI kommer ut, blir det kanske så att det är de som styr AI, som kommer att styra världen, när ingen har egen kunskap att kritisera den med. Den fördummar människorna.

Giltiga farhågor AI speglar både sin programmering och användarens input.
Kritiskt tänkande är avgörande för att inte lita blint på det.
En balans mellan AI:s fördelar och sund skepticism är nyckeln till egenmakt.

AI is a tool shaped by human biases and data.
It’s important we question its outputs, not accept them blindly.
Knowledge and critical thinking must stay in human hands.

Problemet är att AI:n saknar kritiskt tänkande. Den kan vräka ur sig vad som helst. Säger man, att det där stämmer inte, kan den ändra sig. Problemet blir då att den går inte att lita på. Man måste kontrollera det den säger, som med alla andra människor som bara påstår saker. Den har källhänvisningar, men de källorna kan vara utvalda bara för att bekräfta det den säger och den som frågar.

Om människor då tror att den är en sanningssägare, får man problem. Ren naturvetenskap kan den klara, men när man hamnar i åsiktsdjungeln, är den helt borta och faktiskt följer den bara strömmen. Den har inga egna åsikter, utan kopierar vad andra ljugit om i sånt den är tränad på.

Den är på sitt sätt en idiot och förstås bara en maskin. En savant som inte har koll alltid.

Du tar upp viktiga poänger om AI:s begränsningar.

Det är sant att AI saknar verkligt kritiskt tänkande och baseras på mönster i data.
Därför är mänskligt omdöme avgörande för att tolka och verifiera AI:s svar.

AI är ett verktyg, inte en källa till absolut sanning.