Citat:
Ursprungligen postat av
Svenshult
Jag tror poängen snarare var att när nyheter i media upphör att avspegla en upplevd verklighet utan snarare en ideologisk verklighet så hamnar vi i en situation där en turk som begår brott i Turkiet där han bott största delen av sitt liv är en svensk man från Stockholm som nyligen bosatt sig i Turkiet, eller där män blir gravida, eller där svarta män som bränner ner hela städer protesterar ”mestadels fredligt” men där vita män och kvinnor som krossar några fönsterrutor försöker ”begå statskupp”.
Om detta är vad oyto menar så håller jag med. Jag har folk i min familj och släkt (kanske majoriteten) som i accellererande takt börjar uttala allt mer bisarra obegripligheter som påminner lite grand om en AI som tränas på träningsdata genererat av en annan AI. Kontakten med den verifierbara verkligheten har i båda fallen brustit för många uppdateringar sedan.
Ja! Vad händer i en kultur när en allt större andel av dess åsiktsmängd saknar förankring i verkligheten? När nonsens följs av "metanonsens" och ingen gallrande urvalsprocess tillåts som ens försöker konvergera mot något objektivt sant. När icke-sann rappakalja tränger undan kritisk urskillning och lögnen istället anrikas för varje generation.
Med den skillnaden att lögnen kräver intention över tid, som en medveten algoritm som driver datamängdsselektionen i fel riktning. Medan den spontana, organiska degenerationen till rappakalja helt enkelt beror på att kvarlämnad konsensus är självreferentiell.
Citat:
Ursprungligen postat av
Das Auto
Som jag tolkar oyto så handlade inlägget om att AI skulle spåra ut i språkligt nonsens när det lärs upp av annat AI istället för människor. Ungefär som i viskningsleken när den förste personen säger bil och den siste apa. Att i brist på mänsklig korrigering så börjar AI referera till "hund" som "palsternacka" och till slut får vi meningar som ingen annan än AI kan tolka och förstå, typ "Palsternacka grön eller stor gick". Jag är inte insatt i AI-språkinlärning så jag vet inte om det är en reell risk, jag bara svarade på det hypotetiska scenariot som lades fram, och påståendet om att det skulle ha med objektiv sanning att göra.
Poängen är att AI inte tolkar något utan kalkylerar sannolikheter utifrån t ex hela Flashbacks posthistorik. Detta kan fungera förvånansvärt väl med rätt regler för urval och feedback för om ett svar VERKAR korrekt eller inte. Men det handlar fortfarande bara om statistisk sannolikhet att "din" ska följas av "jävla" som ska följas av "mupp" i en Flashback-post, men inte i en låttext till Melodifestivalen där "din" statistiskt ska följas av "ljuva" som ska följas av "neondildo". AI:n är dock varken arg, intelligent eller romantisk, den bara gissar hur ord passar ihop i arga, intelligenta och romantiska svar, baserat på väldigt, väldigt många exempel. Det hjälper alltså inte att Flashback inte är politiskt korrekt.
Problemet blir när AI:ns gissningar med tiden börjar baseras på andra gissningar som baseras på andra gissningar, utan en korrekt mekanism för utgallrandet av felaktiga gissningar. Och återigen måste då "felaktiga" betyda något i stil med "osanna" i objektiv mening, allra minst "som uppfattas som osanna av människor". Och då är det frågan om det finns någon skillnad mellan dessa AI-bottar och köttbottar som saknar urskillningsförmåga och bara försöker navigera konsensus för att ha "rätt" åsikt, alltså en åsikt som VERKAR korrekt.
Ett exempel på denna degenerering kan vara hur ingen rationell statsman för någon generation sedan kunde se ett konventionellt markkrig syftande till seger mot kärnvapenmakten Ryssland som förnuftigt, medan det idag i maktställning bara verkar finnas köttbottar som delar denna nya konsensus. En konsensus som objektivt, spelteoretiskt verkar helt vansinnig. Ur ett europeiskt, mänskligt perspektiv, alltså.