Citat:
Poängen är att AI inte tolkar något utan kalkylerar sannolikheter utifrån t ex hela Flashbacks posthistorik. Detta kan fungera förvånansvärt väl med rätt regler för urval och feedback för om ett svar VERKAR korrekt eller inte. Men det handlar fortfarande bara om statistisk sannolikhet att "din" ska följas av "jävla" som ska följas av "mupp" i en Flashback-post, men inte i en låttext till Melodifestivalen där "din" statistiskt ska följas av "ljuva" som ska följas av "neondildo". AI:n är dock varken arg, intelligent eller romantisk, den bara gissar hur ord passar ihop i arga, intelligenta och romantiska svar, baserat på väldigt, väldigt många exempel. Det hjälper alltså inte att Flashback inte är politiskt korrekt.
Problemet blir när AI:ns gissningar med tiden börjar baseras på andra gissningar som baseras på andra gissningar, utan en korrekt mekanism för utgallrandet av felaktiga gissningar. Och återigen måste då "felaktiga" betyda något i stil med "osanna" i objektiv mening, allra minst "som uppfattas som osanna av människor". Och då är det frågan om det finns någon skillnad mellan dessa AI-bottar och köttbottar som saknar urskillningsförmåga och bara försöker navigera konsensus för att ha "rätt" åsikt, alltså en åsikt som VERKAR korrekt.
Problemet blir när AI:ns gissningar med tiden börjar baseras på andra gissningar som baseras på andra gissningar, utan en korrekt mekanism för utgallrandet av felaktiga gissningar. Och återigen måste då "felaktiga" betyda något i stil med "osanna" i objektiv mening, allra minst "som uppfattas som osanna av människor". Och då är det frågan om det finns någon skillnad mellan dessa AI-bottar och köttbottar som saknar urskillningsförmåga och bara försöker navigera konsensus för att ha "rätt" åsikt, alltså en åsikt som VERKAR korrekt.
De flesta av oss skulle nog säga att det fetade är en korrekt beskrivning av intelligens oavsett om den bor i kretskort eller fettklumpar. IQ-test är ju specifikt designade för att testa vår mönsterigenkänning genom att gissa talföljder och addera rätt figur i Ravens matriser. En hårdnackad skeptiker som Hume skulle säga att vetenskapliga observationer är lika tillförlitliga som att singla slant och satsa på klave hundra gånger i rad, men för de flesta av oss är upprepningar tillförlitligt nog. Så vitt jag känner till har inte en mänsklig spelare besegrat en shackdator sedan 90-talet, så om något verkar "köttboten" ligga i rejält underläge gentemot "AI-boten" i urskiljningsförmåga.
Vad AI däremot har svårt att tolka, eller sannolikhetskalkylera, är oregelbundenhet, irrationalitet, vilket människor tycks förstå sig bättre på så som de känner sig själva. Och det lämnar AI:n utsatt i sin "godtrogenhet".
Citat:
Ett exempel på denna degenerering kan vara hur ingen rationell statsman för någon generation sedan kunde se ett konventionellt markkrig syftande till seger mot kärnvapenmakten Ryssland som förnuftigt, medan det idag i maktställning bara verkar finnas köttbottar som delar denna nya konsensus. En konsensus som objektivt, spelteoretiskt verkar helt vansinnig. Ur ett europeiskt, mänskligt perspektiv, alltså.
Låter som du ser fram emot att styras av din maskinella överman.
