För mycket AI-inlägg

Visst är AI ett ökande problem här på Flashback. Och det är inte alltid helt lätt att känna igen. Jag har stött på vissa användare som gärna skriver en lång textvägg varje gång med viss stil som jag misstänker är AI-genererat. Det är också ett problem att vissa tycker det är legitimt att använda AI som källa och inbillar sig att det ökar deras trovärdighet, helt omedvetna om att du med lite manipulation kan få AI att hålla med dig om nästan vad du vill.

Samtidigt är det en del av mig som känner att detta är framtiden och att det bara är att acceptera. En dag kanske vi inte bara har inlägg skrivna med hjälp av AI, utan AI-genererade användarkonton som debatterar med andra AI-genererade användarkonton. Och som startar trådar med ämnen som "Därför är kritiken mot AI överdriven" eller "AI är det bästa som hänt mänskligheten".

Jag har inte märkt några inlägg som är skrivna av AI. Vilka trådar och delar av forumet finns det mest AI-inlägg?

Ja, man ser det överallt. Helt plötsligt börjar en användare skriva på perfekt svenska. Långa, komplexa, men det till trots innehållslösa inlägg, som uppenbarligen är genererat av AI. Modsen och admin verkar skita fullständigt i detta.

Jag tror de får rapporter och rensar bort det uppenbara i stor utsträckning. Jag har gått bort ganska mycket genom rp. Men i vissa fall verkar de hellre fria än fälla.

Men det är samtidigt ganska lätt att se om ett inlägg är AI-genererat eller inte eftersom man kan se användarens historik. De flesta användare som använder AI-verktyg är (av någon anledning) inte så begåvade när det kommer till språk, struktur och disposition av text. Kollar man tillbaka några år i deras posthistorik hittar man inlägg av väldigt låg kaliber rent språkmässigt, medan de nu skriver på närmast perfekt svenska. Har de gått klart sin utbildning i lingvistik på universitet eller började de använda AI?

Inläggen skrivs kanske inte av textrobotar men de citeras om om de vore orakel. Ex. "Reglerna om X står på Skatteverkets hemsida: <länk>", "Nä, du har fel för chatgpt säger: <dum jävla idioti>" Man blir trött.

Instämmer. Jag tror det lättaste sättet att identifiera AI-genererade inlägg är att se text som dels består av perfekt svenska, grammatik och disposition i kombination med nästintill innehållslöshet i själva sakfrågan samt utan personlig prägel.

Jo om man ser det ja, men långt ifrån alla har konton som är flera år gamla så det går därför inte alltid att göra sådana jämförelser.

Men i rapporterna är det ovanligt att man ser någon be oss göra en jämförelse mot äldre inlägg och påpekar den märkliga språkliga utvecklingen hos någon användare.

Så m.a.o. är det därför troligt att många moddar då bara kikar på det postade inlägget och försöker bedöma om det förefaller vara skrivet av en AI, men inte tar sig tiden att sätta sig ner och jämföra det mot äldre inlägg och bedömer om användaren förbättrat sitt språk orealistiskt mycket på senare tid.

Visst det kan man göra ändå. Men i praktiken blir det svårt, åtminstone för oss som moddar de större formen. Jag uppfattar att många användare tyvärr kraftigt underskattar hur extremt mycket som postas varje dag och hur mycket av det som rapporteras, och hur nästan slumpmässigt en del användare förefaller välja vilken regel de rapporterar för och regel 0.13 (textrobotar) är tyvärr inget undantag.

Mer eller mindre samtliga aktiva användare (åtminstone i de forum jag modererar) rapporteras med jämna mellanrum för regel 0.13 och skulle därför behövas kollas upp mot deras äldre inlägg. Några var och varannan dag, andra bara nån gång i månaden.

Jag kollade bara i denna tråd och nästan samtliga som postat här har åtminstone någon gång, det flesta flera gånger, rapporterats för att bryta mot regel 0.13. (Och jodå du också om du undrar.) Så m.a.o. rapporteras det extremt mycket för det, och åt helsike mycket av det är felaktigt. Du kan ju själv försöka bedöma hur många av de användare som postar i t.ex. denna tråd som brukar använda textrobotar när de postar så förstår du säkert vad jag menar. (Jag vet inte heller svaret, men jag tror verken du eller några av de andra i tråden tillhör den gruppen av användare.)

Så tidsmässigt är det inte genomförbart med mindre än att Flashback anställer flera personer som på heltid bara håller på med det hela dagarna. Tyvärr.

Men som sagt var, mycket plockar vi faktiskt, men vi missar nog tyvärr en hel del också. Och ibland är vi osäkra också och då friar vi hellre än fäller. Men jag uppfattar att vi successivt blir bättre och bättre på att känna igen det.

Fascinerande. Tack för bra svar. Jag skriver ofta en aning gammalmodigt och formellt. Det avviker från det lite hurtiga sättet AI formulerar sig. Det gäller även att inte uttrycka sig alltför instämmande i sina svar. AI blir kanske kanslisvenskans renässans på Flashback.