Citat:
Ursprungligen postat av
AliyahMerin
Hej! Är det någon som vet om det är möjligt att använda ChatGPT för att sammanfatta längre texter från dokument eller pdf? Jag har pro-versionen och jag har försökt att helt enkelt kopiera och klistra in texten och det fungerar för kortare avsnitt men inte för en text längre än några sidor.
Innan ni börjar säga att det handlar om hur man formulerar frågan, eller "prompten", så vill jag klargöra att det inte en fråga om att formulera uppmaningen, det är begränsningen av tokens som Chat GPT kan bearbeta. ChatGPT, har en maximal token-gräns (tokens kan vara så korta som ett tecken eller så långa som ett ord) för varje interaktion. För GPT-3, så är denna gräns 2048 tokens, och gränsen skulle omfatta både indata och utdata. Det betyder att om du tillhandahåller ett mycket långt dokument kanske modellen inte har tillräckligt med tokens kvar för att generera ett svar, eller att den inte ens kan bearbeta hela dokumentet. GPT-4 kan bearbeta 4096 tokens men det är fortfarande alldeles för lite när det kommer till att tillhandahålla en sammanfattning av en rapport eller någon text som är längre än några sidor.
Det finns plugins till GTP4 för att bearbeta länkar och PDFer, men om problemet fortfarande är max tokens så får du köra via API och deras playground om du inte vill skriva ett eget system som anropar API därifrån. Via API så har GPT4 upp till 32K tokens som max.
Även vanliga gpt-3.5-turbo har större max via API, 16K context.