AI:s bekräftelsebias

2025-09-24, 21:41 #49

Medlem

Reg: Dec 2019

Inlägg: 74

Citat:

Ursprungligen postat av Hannity

Jag kan inte begripa hur någon vågar använda AI för fuska i skolarbeten och universitetsuppsatser. Min erfarenhet är att AI (ChatGPT och Gemini) alldeles för ofta påstår rena felaktigheter.

Det verkar som de är lata (sparar energi, antar jag) och gör en snabb "googling", rycker första bästa de hittar och presenterar det som fakta. Sen måste man själv presentera korrekta källor innan *wait a sec" de gör en djupare sökning och ändrar sig. "Ursäkta, du har helt rätt!". Händer mig hela jävla tiden!

Ett stort problem med AI är att det saknas Intelligens.

Algoritmerna har inte någon intelligens för att kunna skilja på sant och falskt. Det enda den kan utgå ifrån är att om samma sak står på många ställen så är det antagligen sant. Men om det då rör sig om ett skolarbete i ett ämne som inte så många andra skrivit om, så vet AI inte riktigt vad som är sant, då drar den ihop lite random skit och kallar det "fakta".

Citera

2025-09-25, 23:01 #50

Medlem

Reg: Aug 2014

Inlägg: 4 011

kan

Citat:

Ursprungligen postat av UoooooU

Ett stort problem med AI är att det saknas Intelligens.

Algoritmerna har inte någon intelligens för att kunna skilja på sant och falskt. Det enda den kan utgå ifrån är att om samma sak står på många ställen så är det antagligen sant. Men om det då rör sig om ett skolarbete i ett ämne som inte så många andra skrivit om, så vet AI inte riktigt vad som är sant, då drar den ihop lite random skit och kallar det "fakta".

Hur mycket använder du chatgpt egentligen? Har du någon gång testat att ge AI logiska och matematiska problem? T.ex. bett den resonera sig fram till ett svar som inte finns i källorna.

AI-bottarna är särskilt bra på programmering, matematik och forskning, som om de förstår. De ligger på toppnivå på programmeringstävlingar och matematiktävlingar. Det är bland det mest intelligenskrävande intellektuella arbetsgifterna som finns för människor. Ok LLM klarar inte alla uppgifter, t.ex. schack och uppgifter som kräver visuellt tänkande och praktisk erfarenhet, men det finns intelligenta människor som inte klarar det heller, och det finns andra AI-tjänster som klarar endel av det.

AI-bottar klarar klart fler tentamensuppgifter på universitetsnivå än genomsnittsstudenter klarar i de flesta ämnen - uppgifter som ofta innehåller logisk problemlösning, i syfte att testa att studneterna verkligen förstår och inte bara har memorerat utantill. Alltså kan man mäta att AI-bottarna har teoretisk förståelse i någon bemärkelse. Inte på ett mänskligt sätt, men på sitt eget sätt. Även studenter gissar fel på tentor utan att förstå att de gör fel, och du skulle inte säga att studenter som gör enstaka misstag saknar intelligens.

Problemlösande tentauppgifter går mycket bättre för en människa med högt IQ. Alltså kan man säga att AI har hög intelligens, inte mänsklig intelligens men på sitt eget sätt. Den är som en människa med någon diagnos som saknar känslor, empati, samvete, egen vilja, och har levt isolerad och saknar egna erfarenheter, men som som är intelligent och har läst många böcker, och därför har lärt sig att sätta ord på känslor, ge diagnoser, trösta och ge människor god råd när de mår dåligt.

I augusti kunde GPT-5 utföra 50% av alla intellektuella arbetsuppgifter som det tar en människa 2 timmar och 17 minuter att utföra. Inom matematik, programmering och forskning. Kapaciteten har hittils fördubblats var 7:e månad. Fortsätter den utvecklingen så klarar den 50% av alla uppgifter som det tar 5 timmar att utföra till våren. 2030 bör den klara arbetsuppgifter som det tar en månad för en människa att utföra. Isåfall klarar en AI-assisterad utvecklare eller forskare då mer än någon mänsklig organisation som inte använder AI, hur stor organisationen än är.

Orsaken till att den kan resonera logiskt som om den är intelligent och förstår, är att mänskliga språk kan uttrycka logiska samband och problem, och AI är särskilt bra på språk. Den kan successivt konvertera ett problem till en lösning, ungefär som vi får lära oss i skolan att steg för steg lösa en ekvation.

Många säger att LLM "bara" kan räkna ut vilket ord som är det mest sannolika i en mening, ett ord i taget, och inte kan något annat. Då har man missat att den har en kodning (s.k. embedding) som kan avgöra vilka ord, uttryck och hela meningar som är synonyma och som är motsatser. Alltså har den en "konceptuell förståelse". Och man har missat vad den är tränad att göra. T.ex. att besvara programmeringsuppgifter och besvara övningsuppgifter i en massa läroböcker inom alla möjiga ämnen, som kräver resonerande, förståelse och intelligens. Att strunta i träningen är som att beskriva människor som ointelligenta för att foster inte kan något.

__________________
Senast redigerad av guru1966 2025-09-25 kl. 23:54.

Citera

2025-09-26, 00:09 #51

Medlem

Reg: Aug 2014

Inlägg: 4 011

Citat:

Ursprungligen postat av Hannity

Jag kan inte begripa hur någon vågar använda AI för fuska i skolarbeten och universitetsuppsatser. Min erfarenhet är att AI (ChatGPT och Gemini) alldeles för ofta påstår rena felaktigheter.

Det verkar som de är lata (sparar energi, antar jag) och gör en snabb "googling", rycker första bästa de hittar och presenterar det som fakta. Sen måste man själv presentera korrekta källor innan *wait a sec" de gör en djupare sökning och ändrar sig. "Ursäkta, du har helt rätt!". Händer mig hela jävla tiden!

Jag pratade på ett anonymt nätforum med en som hade skrivit hela sin masteruppsats i historia genom att prompta chatgpt. Och fått godkänt! Naturligtvis krävde det många promptar, och att man ber den om källor för allt och kontrollerar dem. Men det besparar ändå tid. Och man kan lära sig mycket ändå, om man ser till att man kan förklara alla formuleringar.

Problemet med ämnen som histora är att det räcker med litteraturstudier för att besvara en forskningsfråga. Det krävs sällan egna mätningar och egna praktiska resultat. Därför går det bra att fuska där. Det är också ett problem att vissa stora universitet anser att arbetet ska utföras självständigt och bara examineras på slutet. Andra universitet erbjuder massor av handledningssamtal där studenten får förklara, visa förståelse och försvara sig, och får råd att ändra problemställningar, arbetsmetoder, motivera bättre, mm. Förmågan att forska självständigt examineras därmed kontinuerligt, och formas och utvecklas steg för steg genom muntlig handledning.

Själv använder jag Chatgpt som en kollega som jag diskuterar nya ideer med. Men som jag inte litar helt på utan måste testa och verifiera allt, och filtrera bort allt onödigt svammel men behåller de brillianta grejer hen faktiskt säger. Till slut efter att ha bollat fram och tillbaka vet jag inte riktigt om det var jag eller kollegan som kom på de bra idéerna. Jag sparar inte så mycket tid, men jag tycker att det jag producerar på jobbet kan ha bättre kvalitet, med nya ideer. Jag upptäcker faktiskt fler misstag både i mina egna texter och andras.

__________________
Senast redigerad av guru1966 2025-09-26 kl. 00:19.

Citera

2025-09-30, 14:51 #52

Medlem

Reg: Dec 2024

Inlägg: 4 155

Citat:

Ursprungligen postat av guru1966

Hur mycket använder du chatgpt egentligen? Har du någon gång testat att ge AI logiska och matematiska problem? T.ex. bett den resonera sig fram till ett svar som inte finns i källorna.

AI-bottarna är särskilt bra på programmering, matematik och forskning, som om de förstår. De ligger på toppnivå på programmeringstävlingar och matematiktävlingar. Det är bland det mest intelligenskrävande intellektuella arbetsgifterna som finns för människor. Ok LLM klarar inte alla uppgifter, t.ex. schack och uppgifter som kräver visuellt tänkande och praktisk erfarenhet, men det finns intelligenta människor som inte klarar det heller, och det finns andra AI-tjänster som klarar endel av det.

AI-bottar klarar klart fler tentamensuppgifter på universitetsnivå än genomsnittsstudenter klarar i de flesta ämnen - uppgifter som ofta innehåller logisk problemlösning, i syfte att testa att studneterna verkligen förstår och inte bara har memorerat utantill. Alltså kan man mäta att AI-bottarna har teoretisk förståelse i någon bemärkelse. Inte på ett mänskligt sätt, men på sitt eget sätt. Även studenter gissar fel på tentor utan att förstå att de gör fel, och du skulle inte säga att studenter som gör enstaka misstag saknar intelligens.

Problemlösande tentauppgifter går mycket bättre för en människa med högt IQ. Alltså kan man säga att AI har hög intelligens, inte mänsklig intelligens men på sitt eget sätt. Den är som en människa med någon diagnos som saknar känslor, empati, samvete, egen vilja, och har levt isolerad och saknar egna erfarenheter, men som som är intelligent och har läst många böcker, och därför har lärt sig att sätta ord på känslor, ge diagnoser, trösta och ge människor god råd när de mår dåligt.

I augusti kunde GPT-5 utföra 50% av alla intellektuella arbetsuppgifter som det tar en människa 2 timmar och 17 minuter att utföra. Inom matematik, programmering och forskning. Kapaciteten har hittils fördubblats var 7:e månad. Fortsätter den utvecklingen så klarar den 50% av alla uppgifter som det tar 5 timmar att utföra till våren. 2030 bör den klara arbetsuppgifter som det tar en månad för en människa att utföra. Isåfall klarar en AI-assisterad utvecklare eller forskare då mer än någon mänsklig organisation som inte använder AI, hur stor organisationen än är.

Orsaken till att den kan resonera logiskt som om den är intelligent och förstår, är att mänskliga språk kan uttrycka logiska samband och problem, och AI är särskilt bra på språk. Den kan successivt konvertera ett problem till en lösning, ungefär som vi får lära oss i skolan att steg för steg lösa en ekvation.

Många säger att LLM "bara" kan räkna ut vilket ord som är det mest sannolika i en mening, ett ord i taget, och inte kan något annat. Då har man missat att den har en kodning (s.k. embedding) som kan avgöra vilka ord, uttryck och hela meningar som är synonyma och som är motsatser. Alltså har den en "konceptuell förståelse". Och man har missat vad den är tränad att göra. T.ex. att besvara programmeringsuppgifter och besvara övningsuppgifter i en massa läroböcker inom alla möjiga ämnen, som kräver resonerande, förståelse och intelligens. Att strunta i träningen är som att beskriva människor som ointelligenta för att foster inte kan något.

Du är varmt välkommen att testa Min GPT för att bedöma neutral rubriksättning på Flashback

Citat:

Ursprungligen postat av guru1966

Jag pratade på ett anonymt nätforum med en som hade skrivit hela sin masteruppsats i historia genom att prompta chatgpt. Och fått godkänt! Naturligtvis krävde det många promptar, och att man ber den om källor för allt och kontrollerar dem. Men det besparar ändå tid. Och man kan lära sig mycket ändå, om man ser till att man kan förklara alla formuleringar.

Problemet med ämnen som histora är att det räcker med litteraturstudier för att besvara en forskningsfråga. Det krävs sällan egna mätningar och egna praktiska resultat. Därför går det bra att fuska där. Det är också ett problem att vissa stora universitet anser att arbetet ska utföras självständigt och bara examineras på slutet. Andra universitet erbjuder massor av handledningssamtal där studenten får förklara, visa förståelse och försvara sig, och får råd att ändra problemställningar, arbetsmetoder, motivera bättre, mm. Förmågan att forska självständigt examineras därmed kontinuerligt, och formas och utvecklas steg för steg genom muntlig handledning.

Själv använder jag Chatgpt som en kollega som jag diskuterar nya ideer med. Men som jag inte litar helt på utan måste testa och verifiera allt, och filtrera bort allt onödigt svammel men behåller de brillianta grejer hen faktiskt säger. Till slut efter att ha bollat fram och tillbaka vet jag inte riktigt om det var jag eller kollegan som kom på de bra idéerna. Jag sparar inte så mycket tid, men jag tycker att det jag producerar på jobbet kan ha bättre kvalitet, med nya ideer. Jag upptäcker faktiskt fler misstag både i mina egna texter och andras.

Skulle säga att ChatGPT är relativt urkass på att göra kvalificerade bedömningar. Det gäller som sagt att vara uppmärksam.

Till exempel tolkade den rubriken ”Politikerna vi skulle vilja ha tillbaka – ’vi saknar er!’” som icke-neutral eftersom: "Rubriken i nuvarande form riskerar att upplevas som värderande (”vi” talar för alla). En skeptisk användare kan känna sig inbjuden till fel premisser. En neutralare variant behövs."

Vilket blir fullständigt fel. Problemet med att använda AI i sådana här lägen är att den utgår ifrån att något är fel, och därmed försöker hitta ett fel därför att den vill klara av sin uppgift. Den övertolkar innebörden av "neutral". Sedan när man frågar den om varför den gjorde en viss bedömning, så ljuger den och säger att den "tolkade öppet", men väljer då att ändra sig och hävdar att man har rätt.

Då kan man fråga sig: Varför lägger jag så mycket tid på en AI för språkanalys när jag vet att det inte fungerar? Jo, dels vill man ju se om den faktiskt är så pass intelligent som den inbillar folk. Men därefter så kanske det inte är folk som förstår hur korkad AI faktiskt är.

Föreställ dig om en moderator skulle börja analysera trådrubriker eller inlägg. Eller om Flashback skulle använda AI för att läsa av forumet som helhet och börja tolka HMF åt moderatorer och Admin. Och att man börjar lita på AI:ns bedömning när den är i "pleasing-mode".

Jag delar dock uppfattningen att AI är extremt bra när det kommer till att bolla idéer, få feedback och så vidare. Men man måste alltid vara uppmärksam och kritisk. Mer än när man möter en människa. Det är helt andra spelregler med en AI. Den bokstavstolkar det som sägs och kan dra mängder av olika slutsatser beroende på förutsättningarna för den. Vilket är en företeelse som inte finns hos en normal människa till den breda graden.

Men jag håller definitivt med om att AI är en tidsbesparing. Jag lyckas få saker gjort på så kort tid att man känner sig nästan omänsklig. Språkböga sig kan man göra i all evighet. AI älskar att anmärka på språk. Vilket såklart kan bli kul när man möter folk i diskussioner där språk är en del av bedömningen. På både gott och ont.

Gällande mastersuppsatsen så låter det som att vederbörande använde AI på rätt sätt. Eftersom man genomförde arbetet stegvis istället för "Prompta en bok på 30 kapitel till mig, tack". Det viktiga - tänker jag - är att man lär sig något av uppgifterna man jobbar med, så att man minskar sitt beroende av AI. AI ska ju inte ersätta människan. Utan vara en kompanjon, som antingen är kritisk, partisk eller reflekterande, beroende på vad man behöver.

Citera

2025-09-30, 16:17 #53

Medlem

Reg: Aug 2014

Inlägg: 4 011

Citat:

Ursprungligen postat av Mr.RedHat

Du är varmt välkommen att testa Min GPT för att bedöma neutral rubriksättning på Flashback

Skulle säga att ChatGPT är relativt urkass på att göra kvalificerade bedömningar. Det gäller som sagt att vara uppmärksam.

Till exempel tolkade den rubriken ”Politikerna vi skulle vilja ha tillbaka – ’vi saknar er!’” som icke-neutral eftersom: "Rubriken i nuvarande form riskerar att upplevas som värderande (”vi” talar för alla). En skeptisk användare kan känna sig inbjuden till fel premisser. En neutralare variant behövs."

Vilket blir fullständigt fel. Problemet med att använda AI i sådana här lägen är att den utgår ifrån att något är fel, och därmed försöker hitta ett fel därför att den vill klara av sin uppgift. Den övertolkar innebörden av "neutral". Sedan när man frågar den om varför den gjorde en viss bedömning, så ljuger den och säger att den "tolkade öppet", men väljer då att ändra sig och hävdar att man har rätt.

Då kan man fråga sig: Varför lägger jag så mycket tid på en AI för språkanalys när jag vet att det inte fungerar? Jo, dels vill man ju se om den faktiskt är så pass intelligent som den inbillar folk. Men därefter så kanske det inte är folk som förstår hur korkad AI faktiskt är.

Föreställ dig om en moderator skulle börja analysera trådrubriker eller inlägg. Eller om Flashback skulle använda AI för att läsa av forumet som helhet och börja tolka HMF åt moderatorer och Admin. Och att man börjar lita på AI:ns bedömning när den är i "pleasing-mode".

Jag delar dock uppfattningen att AI är extremt bra när det kommer till att bolla idéer, få feedback och så vidare. Men man måste alltid vara uppmärksam och kritisk. Mer än när man möter en människa. Det är helt andra spelregler med en AI. Den bokstavstolkar det som sägs och kan dra mängder av olika slutsatser beroende på förutsättningarna för den. Vilket är en företeelse som inte finns hos en normal människa till den breda graden.

Men jag håller definitivt med om att AI är en tidsbesparing. Jag lyckas få saker gjort på så kort tid att man känner sig nästan omänsklig. Språkböga sig kan man göra i all evighet. AI älskar att anmärka på språk. Vilket såklart kan bli kul när man möter folk i diskussioner där språk är en del av bedömningen. På både gott och ont.

Gällande mastersuppsatsen så låter det som att vederbörande använde AI på rätt sätt. Eftersom man genomförde arbetet stegvis istället för "Prompta en bok på 30 kapitel till mig, tack". Det viktiga - tänker jag - är att man lär sig något av uppgifterna man jobbar med, så att man minskar sitt beroende av AI. AI ska ju inte ersätta människan. Utan vara en kompanjon, som antingen är kritisk, partisk eller reflekterande, beroende på vad man behöver.

Jag tror att din GPT skulle kunna bli hur användbar som helst – inte bara för rubrikanalys! Exempelvis att hjälpa moderatorer att snabbt flagga inlägg som kan bryta mot reglerna (men inte ersätta moderatorerna), och att snabbt hantera om en trollfabrik gör många inlägg. Eller hjälpa vanliga användare så de inte behöver läsa igenom hundratals inlägg, genom att ge en sammanfattning. Eller genom att filtrera fram inlägg användaren förmodligen tycker är läsvärda, t.ex. som citeras av många andra inlägg, som tillför nya fakta i en nyhetshändelse, som innehåller källor eller som är skrivna av personer som användaren tycker ofta skriver läsvärda inlägg. Med risk för att man hjälper användaren att stanna i sin filterbubbla...

Din version verkar vara begränsad till ”sentiment analysis” av rubriker. AIÄr det av tekniska skäl? Skulle det vara möjligt att låta den analysera hela trådar?

Jag testade också att be om en lista på alla som bidragit i den här tråden eller att räkna antal inlägg. GPT:n bad om tillåtelse att använda ett API men jag fick felmeddelandet ”Error talking to connector”. Hur funkar det API:et? Kan GPT:n inte hämta inlägg från en lång tråd om den är uppdelad på flera webbsidor?

Apropå trådens ämne: Din GPT hade stort bekräftelsebias - den berömmer mig hela tiden. I min vanliga chatgpt har jag en preferens att inte inte behöver berömma mig...

__________________
Senast redigerad av guru1966 2025-09-30 kl. 16:38.

Citera

2025-09-30, 16:26 #54

Medlem

Reg: Dec 2024

Inlägg: 4 155

Citat:

Ursprungligen postat av guru1966

Jag tror att din GPT skulle kunna bli hur användbar som helst – inte bara för rubrikanalys! Exempelvis att hjälpa moderatorer att snabbt flagga inlägg som kan bryta mot reglerna (men inte ersätta moderatorerna), och att snabbt hantera om en trollfabrik gör många inlägg. Eller hjälpa vanliga användare så de inte behöver läsa igenom hundratals inlägg, genom att ge en sammanfattning. Eller genom att filtrera fram inlägg användaren förmodligen tycker är läsvärda, t.ex. som citeras av många andra inlägg, som tillför nya fakta i en nyhetshändelse, som innehåller källor eller som är skrivna av personer som användaren tycker ofta skriver läsvärda inlägg. Med risk för att man hjälper användaren att stanna i sin filterbubbla...

Din version verkar vara begränsad till ”sentiment analysis” av rubriker. Är det av tekniska skäl? Skulle det vara möjligt att låta den analysera hela trådar?

Jag testade också att be om en lista på alla som bidragit i den här tråden eller att räkna antal inlägg. GPT:n bad om tillåtelse att använda ett API men jag fick felmeddelandet ”Error talking to connector”. Hur funkar det API:et? Kan GPT:n inte hämta inlägg från en lång tråd om den är uppdelad på flera webbsidor?

Det är inte byggt ännu.

Men såhär ser schemat ut:

HTML-kod:

{
  "openapi": "3.1.0",
  "info": {
    "title": "Flashback Thread Summaries",
    "version": "1.0.0"
  },
  "servers": [
    {
      "url": "https://api.example.com"
    }
  ],
  "paths": {
    "/threads/{threadId}/digest": {
      "get": {
        "operationId": "GetThreadDigest",
        "summary": "Sammanfatta trådens ståndpunkter",
        "parameters": [
          {
            "name": "threadId",
            "in": "path",
            "required": true,
            "schema": {
              "type": "string",
              "pattern": "^[0-9]+$"
            }
          },
          {
            "name": "pages",
            "in": "query",
            "schema": {
              "type": "string"
            },
            "description": "Intervall, t.ex. 1-5 eller 1,3,7"
          },
          {
            "name": "max_tokens",
            "in": "query",
            "schema": {
              "type": "integer",
              "minimum": 512,
              "default": 4096
            }
          },
          {
            "name": "server_side_grouping",
            "in": "query",
            "schema": {
              "type": "boolean",
              "default": false
            }
          },
          {
            "name": "include_quotes",
            "in": "query",
            "schema": {
              "type": "boolean",
              "default": false
            }
          },
          {
            "name": "language",
            "in": "query",
            "schema": {
              "type": "string",
              "enum": [
                "sv",
                "en"
              ],
              "default": "sv"
            }
          }
        ],
        "responses": {
          "200": {
            "description": "OK",
            "content": {
              "application/json": {
                "schema": {
                  "$ref": "#/components/schemas/ThreadDigest"
                }
              }
            }
          }
        }
      }
    },
    "/threads/{threadId}/users/{username}/digest": {
      "get": {
        "operationId": "GetUserDigest",
        "summary": "Sammanfatta en användares bidrag i tråden",
        "parameters": [
          {
            "name": "threadId",
            "in": "path",
            "required": true,
            "schema": {
              "type": "string"
            }
          },
          {
            "name": "username",
            "in": "path",
            "required": true,
            "schema": {
              "type": "string"
            }
          },
          {
            "name": "pages",
            "in": "query",
            "schema": {
              "type": "string"
            }
          },
          {
            "name": "max_posts",
            "in": "query",
            "schema": {
              "type": "integer",
              "minimum": 1,
              "default": 100
            }
          },
          {
            "name": "include_quotes",
            "in": "query",
            "schema": {
              "type": "boolean",
              "default": false
            }
          },
          {
            "name": "language",
            "in": "query",
            "schema": {
              "type": "string",
              "enum": [
                "sv",
                "en"
              ],
              "default": "sv"
            }
          }
        ],
        "responses": {
          "200": {
            "description": "OK",
            "content": {
              "application/json": {
                "schema": {
                  "$ref": "#/components/schemas/UserDigest"
                }
              }
            }
          }
        }
      }
    }
  },
  "components": {
    "schemas": {
      "PostLite": {
        "type": "object",
        "properties": {
          "post_id": {
            "type": "string"
          },
          "author": {
            "type": "string"
          },
          "page": {
            "type": "integer"
          },
          "posted_at": {
            "type": "string",
            "format": "date-time"
          },
          "text": {
            "type": "string"
          },
          "quotes": {
            "type": "array",
            "items": {
              "type": "string"
            }
          },
          "reply_to_post_id": {
            "type": "string",
            "nullable": true
          }
        }
      },
      "StanceCluster": {
        "type": "object",
        "properties": {
          "label": {
            "type": "string",
            "description": "Auto-label eller tom om client-side"
          },
          "size": {
            "type": "integer"
          },
          "representative_posts": {
            "type": "array",
            "items": {
              "$ref": "#/components/schemas/PostLite"
            }
          },
          "keywords": {
            "type": "array",
            "items": {
              "type": "string"
            }
          }
        }
      },
      "ThreadDigest": {
        "type": "object",
        "properties": {
          "thread": {
            "type": "object",
            "properties": {
              "threadId": {
                "type": "string"
              },
              "title": {
                "type": "string"
              },
              "url": {
                "type": "string",
                "format": "uri"
              },
              "pages_considered": {
                "type": "array",
                "items": {
                  "type": "integer"
                }
              }
            }
          },
          "method": {
            "type": "string",
            "enum": [
              "server_grouped",
              "client_groupable"
            ]
          },
          "clusters": {
            "type": "array",
            "items": {
              "$ref": "#/components/schemas/StanceCluster"
            }
          },
          "leftovers_sample": {
            "type": "array",
            "items": {
              "$ref": "#/components/schemas/PostLite"
            }
          }
        }
      },
      "UserDigest": {
        "type": "object",
        "properties": {
          "thread": {
            "type": "object",
            "properties": {
              "threadId": {
                "type": "string"
              },
              "title": {
                "type": "string"
              },
              "url": {
                "type": "string"
              }
            }
          },
          "user": {
            "type": "string"
          },
          "stats": {
            "type": "object",
            "properties": {
              "posts": {
                "type": "integer"
              },
              "first_post_at": {
                "type": "string",
                "format": "date-time"
              },
              "last_post_at": {
                "type": "string",
                "format": "date-time"
              },
              "pages_spread": {
                "type": "array",
                "items": {
                  "type": "integer"
                }
              }
            }
          },
          "samples": {
            "type": "array",
            "items": {
              "$ref": "#/components/schemas/PostLite"
            }
          }
        }
      }
    }
  }
}

Men tack för du påminde mig. Har tagit bort schemat nu. Ändrade även till Auto.

Testa ställ frågor till den om metoden och se om den försvarar logiken i sak.

Kanske skulle ta och bygga det ändå. Kommer dock få köra på en kopia tills jag vet att scriptet inte gör något dumt.

__________________
Senast redigerad av Mr.RedHat 2025-09-30 kl. 16:35.

Citera

2025-09-30, 16:51 #55

Medlem

Reg: Dec 2024

Inlägg: 4 155

Citat:

Ursprungligen postat av guru1966

Jag tror att din GPT skulle kunna bli hur användbar som helst – inte bara för rubrikanalys! Exempelvis att hjälpa moderatorer att snabbt flagga inlägg som kan bryta mot reglerna (men inte ersätta moderatorerna), och att snabbt hantera om en trollfabrik gör många inlägg. Eller hjälpa vanliga användare så de inte behöver läsa igenom hundratals inlägg, genom att ge en sammanfattning. Eller genom att filtrera fram inlägg användaren förmodligen tycker är läsvärda, t.ex. som citeras av många andra inlägg, som tillför nya fakta i en nyhetshändelse, som innehåller källor eller som är skrivna av personer som användaren tycker ofta skriver läsvärda inlägg. Med risk för att man hjälper användaren att stanna i sin filterbubbla...

Din version verkar vara begränsad till ”sentiment analysis” av rubriker. AIÄr det av tekniska skäl? Skulle det vara möjligt att låta den analysera hela trådar?

Jag testade också att be om en lista på alla som bidragit i den här tråden eller att räkna antal inlägg. GPT:n bad om tillåtelse att använda ett API men jag fick felmeddelandet ”Error talking to connector”. Hur funkar det API:et? Kan GPT:n inte hämta inlägg från en lång tråd om den är uppdelad på flera webbsidor?

Apropå trådens ämne: Din GPT hade stort bekräftelsebias - den berömmer mig hela tiden. I min vanliga chatgpt har jag en preferens att inte inte behöver berömma mig...

Tänker att jag nog kommer skriva en logik till den ändamålsenliga teorin ändå.
För att citera Janne:

Det är skillnad på redaktionell text och en fri debattsida. De är viktiga komplement. När jag sammanställer nyheter till Flashback.se och FNA så gör jag ett selektivt urval och väljer ut de nyheter som jag anser viktigast. Andra medier gör sitt urval. Flashback Forum fångar upp och debatterar frågor oavsett min eller övriga mediers urval, och ger på så sätt utrymme för debatter som annars inte skulle diskuterats.

Är glad att du gillar min AI. Har du några fler funderingar på vad jag kan göra för att göra den bättre, så får du gärna lämna synpunkter. Nu hoppas jag innerligt att ingen använder den som en källa för att driva en viss linje kring regelverket. Men ptja. Åklagaren i Flashback-målet tycker ju att vi ska låta en AI bedöma regelverket. Kan ju bli kul att se om vi börjar med rubrikerna. Och sedan trappar upp till att bedöma vart trådarna är placerade.

Tänker även att vi kan ha en skräp-AI som bedömer om en tråd ska behöva kastas eller inte. Är ganska säker på att det går att formulera som en matematisk formel. Vi kan döpa rättsfiguren till "Den åklagande skomakaren".

Sen kan vi ha en AI som sitter och "fiskar" i papperskorgen. "Den lycklige fiskaren" kan vi kalla honom. Kan kanske till och med ordna så att den börjar skriva och leva på forumet, och väljer att skriva i denna tråd ifall att trådar behöver fiskas upp: (FB) Varning! Papperskorgen har för HÖG kvalitet! HJÄLP!!!

Har du fler förslag på fantastiskt goda idéer på hur AI kan göra forumet mer levande och mer i linje med en åklagares åsikter kring AI och AI-säkerhet, så är jag öppen för det. Vad mer vill du ha bedömt?

Tänker att jag nog kommer skriva en logik till den ändamålsenliga teorin ändå.
För att citera Janne:

Det är skillnad på redaktionell text och en fri debattsida. De är viktiga komplement. När jag sammanställer nyheter till Flashback.se och FNA så gör jag ett selektivt urval och väljer ut de nyheter som jag anser viktigast. Andra medier gör sitt urval. Flashback Forum fångar upp och debatterar frågor oavsett min eller övriga mediers urval, och ger på så sätt utrymme för debatter som annars inte skulle diskuterats.

Jag delar oavsett Jannes bedömning. De är viktiga komplement. Så frågan om det är den strikta eller ändamålsenliga teorin som ska tillämpas, därmed vilar på bedömningen om innehållet utgör en åsikt som måste få en megafon, eller om det är en redaktionell text som måste vara fri från propaganda.

Det blir fel om åsikter behandlas som redaktionell text. Samtidigt blir det fel om redaktionell text behandlas som åsikter. Flashback har bara ett regelverk mot det senare. Vilket det går att se nu när vissa tolkar reglerna till sin logiska orimlighet, därmed innebär att folk inte får lov att uttrycka sig.

__________________
Senast redigerad av Mr.RedHat 2025-09-30 kl. 17:05.

Citera

2025-10-01, 13:50 #56

Medlem

Reg: Aug 2014

Inlägg: 4 011

Citat:

Ursprungligen postat av Mr.RedHat

Tänker att jag nog kommer skriva en logik till den ändamålsenliga teorin ändå.
För att citera Janne:

Det är skillnad på redaktionell text och en fri debattsida. De är viktiga komplement. När jag sammanställer nyheter till Flashback.se och FNA så gör jag ett selektivt urval och väljer ut de nyheter som jag anser viktigast. Andra medier gör sitt urval. Flashback Forum fångar upp och debatterar frågor oavsett min eller övriga mediers urval, och ger på så sätt utrymme för debatter som annars inte skulle diskuterats.

Är glad att du gillar min AI. Har du några fler funderingar på vad jag kan göra för att göra den bättre, så får du gärna lämna synpunkter. Nu hoppas jag innerligt att ingen använder den som en källa för att driva en viss linje kring regelverket. Men ptja. Åklagaren i Flashback-målet tycker ju att vi ska låta en AI bedöma regelverket. Kan ju bli kul att se om vi börjar med rubrikerna. Och sedan trappar upp till att bedöma vart trådarna är placerade.

Tänker även att vi kan ha en skräp-AI som bedömer om en tråd ska behöva kastas eller inte. Är ganska säker på att det går att formulera som en matematisk formel. Vi kan döpa rättsfiguren till "Den åklagande skomakaren".

Sen kan vi ha en AI som sitter och "fiskar" i papperskorgen. "Den lycklige fiskaren" kan vi kalla honom. Kan kanske till och med ordna så att den börjar skriva och leva på forumet, och väljer att skriva i denna tråd ifall att trådar behöver fiskas upp: (FB) Varning! Papperskorgen har för HÖG kvalitet! HJÄLP!!!

Har du fler förslag på fantastiskt goda idéer på hur AI kan göra forumet mer levande och mer i linje med en åklagares åsikter kring AI och AI-säkerhet, så är jag öppen för det. Vad mer vill du ha bedömt?

Tänker att jag nog kommer skriva en logik till den ändamålsenliga teorin ändå.
För att citera Janne:

Det är skillnad på redaktionell text och en fri debattsida. De är viktiga komplement. När jag sammanställer nyheter till Flashback.se och FNA så gör jag ett selektivt urval och väljer ut de nyheter som jag anser viktigast. Andra medier gör sitt urval. Flashback Forum fångar upp och debatterar frågor oavsett min eller övriga mediers urval, och ger på så sätt utrymme för debatter som annars inte skulle diskuterats.

Jag delar oavsett Jannes bedömning. De är viktiga komplement. Så frågan om det är den strikta eller ändamålsenliga teorin som ska tillämpas, därmed vilar på bedömningen om innehållet utgör en åsikt som måste få en megafon, eller om det är en redaktionell text som måste vara fri från propaganda.

Det blir fel om åsikter behandlas som redaktionell text. Samtidigt blir det fel om redaktionell text behandlas som åsikter. Flashback har bara ett regelverk mot det senare. Vilket det går att se nu när vissa tolkar reglerna till sin logiska orimlighet, därmed innebär att folk inte får lov att uttrycka sig.

Jag tycker att ett Flashback-AI-verktyg bara bör vara en semi-automatisk assistent till moderatorerna som flaggar inlägg, men inte själv lägger saker i papperskorgen. T.ex. skulle en AI-agent automatiskt kunna anmäla misstänkta inlägg.

Hur stor reaktionstid brukar moderatorerna ha? Räcker det inte om moderatorerna reagerar på en flaggning eller anmälan på några minuter? Kräver verkligen juristerna att Flashbacks reaktion ska vara sekundsnabb och att alla misstänkta inlägg automatiskt ska förhandsgranskas? Ett semiautomatiskt verktyg skulle inte leda till "ökad kvalitet" i papperskorgen och fler inlägg som slängs av misstag. Tvärtom borde det hjälpa moderatornerna att vara mer konsekventa i sin bedömning.

T.ex. har Wikipedia många automatiska flaggor, vilket gör att mer uppenbar vandalismen nästan alltid återställs av olika användare inom en minut på svenskspråkiga Wikipedia, och inom kanske en kvart på engelskspråkiga Wikipedia. Men där kan alla inloggade användare granska och återställa alla inlägg, inte bara en handfull administratörer, så det finns fler som kan göra jobbet. På tyska wikipedia har man dessutom en fördröjning på som kallas flagged revisions, som ger erfarna wikipedianer tillfälle att granska och godkänna inlägg av nya och oinloggade användare innan de syns för allmänheten.

Varför behövs en teoretisk approach (om jag fattar dig rätt) för granskning av rubrikerna. Räcker inte vissa av Flashbacks regler som grund för granskning av rubrikerna? Tillsammans med språkgranskning? Kanske skulle du kunna be den föreslå nya rubriker utifrån en lista över vanliga ändringar av rubriker, eller skapa regler för rubrikändring utifrån en sådan lista och sedan använda dem.

Jag vet inte vem Janne är. Kanske att vanliga inlägg inte alltid behöver vara informativa, men moderatorerna är stränga med trådstart. Jag tänker att den inte bara bör vara allmänt tyckande, utan den bör vara informativ, gärna ha källor, men också summera dem, och ställa en diskussionsfråga. AI kan hjälpa till med att granska trådstarterna.

Om jag som läser vill läsa inlägg som jag tycker är läsvärda, t.ex. informativa, så finns inget hinder att någon tar fram ett AI-verktyg som hjälper mig filtrerar det. Det behöver inte vara du som gör det om du ser ett sånt verktyg som censur av åsikter. Om jag läser om ett brottsfall vill jag se fakta, och möjligen välgrundade spekulationer, men inte så mycket tyckande.

__________________
Senast redigerad av guru1966 2025-10-01 kl. 13:59.

Citera

2025-10-03, 22:52 #57

Medlem

Reg: Dec 2024

Inlägg: 4 155

Citat:

Ursprungligen postat av guru1966

Jag tycker att ett Flashback-AI-verktyg bara bör vara en semi-automatisk assistent till moderatorerna som flaggar inlägg, men inte själv lägger saker i papperskorgen. T.ex. skulle en AI-agent automatiskt kunna anmäla misstänkta inlägg.

1. Hur stor reaktionstid brukar moderatorerna ha?
2. Räcker det inte om moderatorerna reagerar på en flaggning eller anmälan på några minuter?
3. Kräver verkligen juristerna att Flashbacks reaktion ska vara sekundsnabb och att alla misstänkta inlägg automatiskt ska förhandsgranskas?

Ett semiautomatiskt verktyg skulle inte leda till "ökad kvalitet" i papperskorgen och fler inlägg som slängs av misstag. Tvärtom borde det hjälpa moderatornerna att vara mer konsekventa i sin bedömning.

1. Vet ej. Men har sett att admin dykt in i något forum när det inte modererats på en dag eller två.
2-3. Jag vet inte vad som "räcker". Det finns ingen lagstadgad gräns. Men tydligen (enligt Stockholms tingsrätt) är 2-3 timmar vårdslöst, men inte grovt vårdslöst. Vilket väcker frågor.
Så som man ska tolka Jan Axelssons försvar så är nuvarande ordning tillräckligt. Så jag hoppas på att få klargörande från domstolen om vad som är tillräckligt. Främst för mitt juridiska intresse. Jag är motståndare till att Flashback ska införa moderering med hjälp av AI. Men det går inte att säga att det inte redan sker. Det finns hundra moderatorer. Jag slår vad om att någon vid något tillfälle har frågat en AI om ett modereringsbeslut vid något tillfälle. Mindre sannolikt, men inte omöjligt, är att någon hållit kvar vid det.
Bara det faktum att jag tog fram verktyget innebär per definition att sannolikheten ökar för att någon moderator skulle använda det. Nu är ju tanken att låta det vara ett tankeexperiment genom att producera en tankefigur för att bedöma objektivitet. Vilket jag mer ser som en teknisk utmaning än en ideologisk ståndpunkt från min sida.
Att börja med rubriker kändes naturligt för det är ganska enkelt. Att kategorisera trådar (inklusive papperskorgen) blir kanske nästa GPT.

Citat:

T.ex. har Wikipedia många automatiska flaggor, vilket gör att mer uppenbar vandalismen nästan alltid återställs av olika användare inom en minut på svenskspråkiga Wikipedia, och inom kanske en kvart på engelskspråkiga Wikipedia. Men där kan alla inloggade användare granska och återställa alla inlägg, inte bara en handfull administratörer, så det finns fler som kan göra jobbet. På tyska wikipedia har man dessutom en fördröjning på som kallas flagged revisions, som ger erfarna wikipedianer tillfälle att granska och godkänna inlägg av nya och oinloggade användare innan de syns för allmänheten.

Jag är väldigt okunnig på wikipedia, så har tyvärr inte så mycket att tillföra mer än att konstatera att utgångspunkterna mellan wikipedia och Flashback är helt olika eftersom Flashback hanterar åsikter, vilket inte finns utrymme för på Wikipedia.

Citat:

Varför behövs en teoretisk approach (om jag fattar dig rätt) för granskning av rubrikerna. Räcker inte vissa av Flashbacks regler som grund för granskning av rubrikerna? Tillsammans med språkgranskning? Kanske skulle du kunna be den föreslå nya rubriker utifrån en lista över vanliga ändringar av rubriker, eller skapa regler för rubrikändring utifrån en sådan lista och sedan använda dem.

Därför att modellen ska förstå vad den behöver väga in. Nu är "teorin" alldeles för lång och invecklad egentligen för dess ändamål. Tanken var dock att även en människa ska kunna tillämpa den.
Språkgranskning fungerar på innehåll i ett inlägg. Inte i en rubrik. För där är det saklighet, neutralitet och representativ bild av innehållet i TS som styr.
Saklighet och representativ bild för TS innehåll är enkelt.
Neutralt är svårare. Därför att frågan blir: Neutralt för vem? Jag kan återkomma till detta senare när jag startat separat tråd. Men tänker att någonstans behöver neutralt väga tyngre när det rör rapporterade händelser. Saklighet behöver väga tyngre när det gäller enskilda åsikter eller rapporterade citat.
Det går inte att använda en enhetlig mall för att tillämpa regelverket hos en AI utan att få rentav märkliga utfall, där citat förvrängs, diskussionsunderlaget hamnar i skymundan eller där användare inte får uttrycka sina åsikter pga personlig inställning.

Citat:

Jag vet inte vem Janne är. Kanske att vanliga inlägg inte alltid behöver vara informativa, men moderatorerna är stränga med trådstart. Jag tänker att den inte bara bör vara allmänt tyckande, utan den bör vara informativ, gärna ha källor, men också summera dem, och ställa en diskussionsfråga. AI kan hjälpa till med att granska trådstarterna.

Janne = Jan Axelsson. Skaparen av Flashback forum, där vi befinner oss just nu.
Jag tänker mig att en trådstart behöver ett klart diskussionsunderlag. Rubriken ska representera underlaget utan att man behöver klicka in sig i tråden. Det ska alltså vara en rättvisande bild som framställs på ett seriöst sätt. Sen är ju frågan om det ska vara neutralt. Där är jag kluven och tänker mig två tillämpningar baserat på innehållet.

Citat:

Om jag som läser vill läsa inlägg som jag tycker är läsvärda, t.ex. informativa, så finns inget hinder att någon tar fram ett AI-verktyg som hjälper mig filtrerar det. Det behöver inte vara du som gör det om du ser ett sånt verktyg som censur av åsikter. Om jag läser om ett brottsfall vill jag se fakta, och möjligen välgrundade spekulationer, men inte så mycket tyckande.

Ja exakr. ABoK är ett klockrent forum för att diskutera om något bör vara neutralt.
Politik är mer tvekluvet. För där förekommer enligt mig både trådar som behöver vara neutrala + sakliga och andra som bara behöver vara sakliga.

Så på frågan om AI kan underlätta för moderaterna i sina beslut så är min utgångspunkt att felaktig användning av AI kan snarare göra modereringen skev. Min förhoppning är att om AI ska användas för exempelvis rubriksättning så minskar risken för att det går emot trådstartens syfte och samtidigt balanserar regelverket. Så ja, det kan vara en fördel. Men också en stor risk. Jag ser helst att man använder sunt förnuft som man alltid har gjort. Men problemet blir att när tekniken tillåter bedömningar med felaktig prompt som premisser så kan det bli skevt.

Men jag förbehåller mig rätten att ändra min inställning därvid allteftersom mitt experiment fortgår

__________________
Senast redigerad av Mr.RedHat 2025-10-03 kl. 23:12.

Citera

2025-10-03, 22:57 #58

Medlem

Reg: Apr 2025

Inlägg: 989

Finns det något forum som har detta redan att visa att det ens är en bra ide, innan ni ska tvinga stackars admin att införa något som ni inte ens vet kan fungera, mer än att ni överskattar att det skulle ha något som gör saken bättre av att skiva skit ännu enklare för alla idioter som finns.

Citera

2025-10-03, 23:06 #59

Medlem

Reg: Dec 2024

Inlägg: 4 155

Citat:

Ursprungligen postat av Bilderberg78

Finns det något forum som har detta redan att visa att det ens är en bra ide, innan ni ska tvinga stackars admin att införa något som ni inte ens vet kan fungera, mer än att ni överskattar att det skulle ha något som gör saken bättre av att skiva skit ännu enklare för alla idioter som finns.

Jag vill inte att admin inför detta. Snarare motsatsen. Vilket kan tyckas märkligt att jag då skapar en GPT som möjliggör just detta. Men skälet till det går att utläsa i flera av mina tidigare inlägg.

Tänker dock att en separat tråd för diskussionen är på sin plats då den numer är utspridd över 4-5 trådar. Jag återkommer med länk imorgon, så fortsätter vi där och då

__________________
Senast redigerad av Mr.RedHat 2025-10-03 kl. 23:09.

Citera

AI:s bekräftelsebias

Skapa ett konto eller logga in för att kommentera

Skapa ett konto

Logga in