Svara
- Ämnesverktyg
- Visa första olästa
- Hitta inlägg efter datum
Citat:
De kan träna modellen att aldrig svara på sådana frågor, men det skulle motverka syftet. Däremot kan de inte träna den att bara svara på sådana frågor från specifika individer. Fable 5 har fått ett extra lager av säkerhet ovanpå själva modellen. Mythos 5 kan fortfarande svara på sådana frågor, men är endast tillgänglig för utvalda experter.
Helt onödiga till precis den uppgiften, ja. Men användbart till mycket annat. Du kan inte få svar på en sådan fråga i dag. Tycker du därför att Claude Fable 5 är helt onödig?
Men nu glider du också från poängen. Min poäng är inte om Claude Fable ska eller inte ska ge oss den informationen. Poängen är att Anthropic inte kan träna sin AI att göra det som de vill att den ska göra. I stället måste de applicera censur ovanpå modellen så att den beter sig som man vill. Jag tycker att det är ett problem. Medans du vill ha en betydligt mer destruktiv AI-tjänst som svarar på exakt allt, annars är den onödig?
Men nu glider du också från poängen. Min poäng är inte om Claude Fable ska eller inte ska ge oss den informationen. Poängen är att Anthropic inte kan träna sin AI att göra det som de vill att den ska göra. I stället måste de applicera censur ovanpå modellen så att den beter sig som man vill. Jag tycker att det är ett problem. Medans du vill ha en betydligt mer destruktiv AI-tjänst som svarar på exakt allt, annars är den onödig?
Citat:
Det är ju knappast ett syfte att modellen ska hjälpa användarna med att tillverka droger, vapen eller hackingverktyg. Ingen AI-utvecklare vill träna modellen till det som inte är acceptabelt för publik användning. Men när man har mycket träningsdata som inte är möjlig att gallra manuellt då får man den effekten att det som man inte vill ha i modellen ändå landar i modellen. Det är precis därför de måste bygga upp censurfilter ovanpå modellen för att undvika det som de inte vill se (eller som vore olagligt att publicera som en tjänst). Min poäng är att detta inte är en hållbar lösning för att utveckla AI - än mindre AGI och ASI. Men du tycker att det är helt hållbart och att det är sannolikt att Sam Altmans censuravdelning kommer att vara effektiva på att censurera en ASI med sina Regex-filter?
__________________
Senast redigerad av Cyborg2030 2026-07-06 kl. 13:45.
Senast redigerad av Cyborg2030 2026-07-06 kl. 13:45.
Citat:
Vi pratar om hur språkmodeller fungerar, inte om AGI eller ASI, så det är fullkomligt irrelevant. Alla modeller är inte lämpliga för publik användning, vilket är anledningen till varför Mythos heller inte är det. Eftersom att språkmodeller inte kan tänka själva så kommer det sannolikt alltid att finnas vissa typer av prompter som kan kringgå dess träning, men det går att träna dem så att de allra flesta försök ändå misslyckas.
Det är ju knappast ett syfte att modellen ska hjälpa användarna med att tillverka droger, vapen eller hackingverktyg. Ingen AI-utvecklare vill träna modellen till det som inte är acceptabelt för publik användning. Men när man har mycket träningsdata som inte är möjlig att gallra manuellt då får man den effekten att det som man inte vill ha i modellen ändå landar i modellen.
Det är precis därför de måste bygga upp censurfilter ovanpå modellen för att undvika det som de inte vill se (eller som vore olagligt att publicera som en tjänst). Min poäng är att detta inte är en hållbar lösning för att utveckla AI - än mindre AGI och ASI. Men du tycker att det är helt hållbart och att det är sannolikt att Sam Altmans censuravdelning kommer att vara effektiva på att censurera en ASI med sina Regex-filter?
Det är precis därför de måste bygga upp censurfilter ovanpå modellen för att undvika det som de inte vill se (eller som vore olagligt att publicera som en tjänst). Min poäng är att detta inte är en hållbar lösning för att utveckla AI - än mindre AGI och ASI. Men du tycker att det är helt hållbart och att det är sannolikt att Sam Altmans censuravdelning kommer att vara effektiva på att censurera en ASI med sina Regex-filter?
Citat:
Flera ledande AI-utvecklare har sagt att de senaste frontier-modellerna är nära AGI och/eller att de tror att AGI kan uppstå i år eller nästa år. AGI är fullkomligt relevant i alla diskussioner om AI och hur AI "fungerar". Det finns ingen viktigare fråga, någonsin.
Citat:
Du tror att de satsade många miljarder dollar på att träna en modell som de inte får sälja? Hur hade du tänkt dig att de ska få tillbaks sin investering?Anthropic försökte inte göra Mythos till en specialist på hacking och 0-day exploits. De upptäckte det när den var klar.
Jaså, varför gör de inte det då? Du kanske skulle söka jobb på Anthropic och lära ut hur man faktiskt tränar en säker frontier-modell? 🤷🏻♂️
Citat:
Det har de sagt länge nu.
Flera ledande AI-utvecklare har sagt att de senaste frontier-modellerna är nära AGI och/eller att de tror att AGI kan uppstå i år eller nästa år. AGI är fullkomligt relevant i alla diskussioner om AI och hur AI "fungerar". Det finns ingen viktigare fråga, någonsin.
Citat:
Därav att de lagt på flera safeguards på Fable för att, på ett kontrollerat sätt avstyra försök att få den att avslöja potentiellt skadlig information.
Citat:
Nej, alla modeller som har tränats på enorma mängder kod har potentialen att klara av det. När de upptäckte att deras Mythos-modell var särskilt bra på det startades Project Glasswing med särskilt syfte att ta fram en modell som kan användas för cyberförsvar
Citat:
Det gör de hela tiden. Det kan göras med bl.a. RL i post-training där oönskad output bestraffas tills modellen inte längre svarar på sådana frågor. Men det kan också påverka modellen negativt i andra aspekter, vilket antagligen är en anledning till varför de istället har valt andra åtgärder i just fallet med Fable 5.Återigen, det är en tråd om hur språkmodeller fungerar. Det går att träna modeller att undvika vissa ämnen, men det kan ge oönskade effekter som t.ex. kan försämra modellernas förmåga att resonera.
Citat:
Flera ledande AI-utvecklare har sagt att de senaste frontier-modellerna är nära AGI och/eller att de tror att AGI kan uppstå i år eller nästa år. AGI är fullkomligt relevant i alla diskussioner om AI och hur AI "fungerar". Det finns ingen viktigare fråga, någonsin.
Du tror att de satsade många miljarder dollar på att träna en modell som de inte får sälja? Hur hade du tänkt dig att de ska få tillbaks sin investering?
Anthropic försökte inte göra Mythos till en specialist på hacking och 0-day exploits. De upptäckte det när den var klar.
Jaså, varför gör de inte det då? Du kanske skulle söka jobb på Anthropic och lära ut hur man faktiskt tränar en säker frontier-modell? 🤷🏻♂️
Du tror att de satsade många miljarder dollar på att träna en modell som de inte får sälja? Hur hade du tänkt dig att de ska få tillbaks sin investering?
Anthropic försökte inte göra Mythos till en specialist på hacking och 0-day exploits. De upptäckte det när den var klar.
Jaså, varför gör de inte det då? Du kanske skulle söka jobb på Anthropic och lära ut hur man faktiskt tränar en säker frontier-modell? 🤷🏻♂️
Tror du på det? Inser du inte att det är vanligt börssnack för att deras kurser är nu så höga att de gör allt för att parkera dem på någorlunda höga nivåer. Ett ras får inte ske, inte ens en pyspunka (det skule också vara en katastrof).
Personligen hoppas jag på total kollaps för deras aktier, och alla globala indexfonder med dem, eftersom jag placerat i stabila bolag utanför AI, som lidit stryk något otroligt det senaste halvåret. Dessutom ett tillägg: alla nyheter om AI, vare sig de är negativa eller positiva, är sponsrade av AI-jättarna. Världen ska aldrig prata om något annat än AI, är deras credo. Och det handlar förstås inte om IT.. ooo nej, bara det att AI är till 99,9 procent en IT-grej. Men det är klart, deras höga börskurser skulle skadas om det blev allmänt känt. Att AI är en IT-grej och inget annat.
Citat:
Det här är intressant. Ser fram emot version 1.01. Tänker du att man ska kunna använda denna under en lektion om LLM?
Av alla 1000-tals axlar, varför valde du just dessa tre? Varför valde du just namnen "syntax", "allmän" och "finans"? Jag antar att siffervärdena är påhittade och hårdkodade, och inte kommer från ett LLM.
Du skriver "interferens" men menar "inferens".
Du skriver att den "erhåller argmax och samplas", men argmax och sampling är två alternativa sätt att välja nästa token vad jag förstår. Så den använder det ena eller det andra.
Din målgrupp verkar vara personer som redan har djup förståelse för hur LLM funkar. Jag bad chatgpt föreslå alternativa formuleringar som är mer begripliga och korrekta. Jag vet inte hur bra den lyckades. Det borde gå att formulera ändå mer pedagogiskt. Se nedan:
Av alla 1000-tals axlar, varför valde du just dessa tre? Varför valde du just namnen "syntax", "allmän" och "finans"? Jag antar att siffervärdena är påhittade och hårdkodade, och inte kommer från ett LLM.
Du skriver "interferens" men menar "inferens".
Du skriver att den "erhåller argmax och samplas", men argmax och sampling är två alternativa sätt att välja nästa token vad jag förstår. Så den använder det ena eller det andra.
Din målgrupp verkar vara personer som redan har djup förståelse för hur LLM funkar. Jag bad chatgpt föreslå alternativa formuleringar som är mer begripliga och korrekta. Jag vet inte hur bra den lyckades. Det borde gå att formulera ändå mer pedagogiskt. Se nedan:
Nuvarande rubrik:
Visualisering av Autoregressiv språkmodellering – Representation av hidden states i modellens latenta rum vid interferens
Förslag:
Förenklad visualisering av hur en transformerbaserad språkmodell genererar text
eller
En förenklad visualisering av hur hidden states förändras under inferens i en transformerbaserad språkmodell
Disclaimer:
Den här visualiseringen är en pedagogisk illustration och visar inte en verklig språkmodells interna beräkningar. En modern LLM arbetar med vektorer i tusentals dimensioner. Diagrammets tre axlar och koordinater är därför bara illustrativa. Det finns inte sådana namngivna dimensioner i ett LLM.
Attention
Nuvarande text
Self-attention beräknar QKV-matriser där 'krona' agerar query. Uppmärksamhetsvikter tilldelas tidigare tokens ('En', 'stabil'). Kontextvektorn adderas till residualströmmen, vilket uppdaterar representationen för att lösa polysemin kring 'krona' mot den ekonomiska domänen.
Förslag
Self-attention låter modellen väga samman information från de tidigare tokenen ("En" och "stabil") när den tolkar "krona". Eftersom sammanhanget handlar om ekonomi blir betydelsen "valuta" mer sannolik än exempelvis en kungakrona. Resultatet läggs till modellens interna representation (hidden state), som därmed uppdateras.
FFN ("stärker")
Nuvarande
Feed-forward-nätverket projicerar residualströmmen till en högre dimension. Genom icke-linjära aktiveringsfunktioner extraheras mönster från träningsdatan. Vektorn transformeras i det dolda rummet mot syntaktiska kluster för transitiva verb.
Förslag
Feed-forward-nätverket bearbetar den uppdaterade representationen ytterligare. Det förstärker mönster som modellen lärt sig under träningen och gör representationen mer användbar för att förutsäga nästa token. I den här kontexten blir verb som "stärker" mer sannolika. Den interna representationen förändras alltså så att token som passar den aktuella kontexten och grammatiken får högre sannolikhet.
Unembedding
Nuvarande
Den slutgiltiga vektorn multipliceras med unembedding-matrisen. Softmax appliceras. Token "stärker" erhåller argmax och samplas.
Förslag
Den interna representationen omvandlas till ett sannolikhetsvärde för varje möjlig token i ordförrådet. Därefter väljs nästa token enligt modellens urvalsstrategi. I detta exempel blir "stärker" den valda tokenen.
(Undvik att skriva "argmax och samplas", eftersom det är två olika urvalsmetoder.)
Attention ("vår")
Nuvarande
Self-attention utnyttjar KV-cachen för att undvika omberäkning av historiken. Uppmärksamhetshuvudena modellerar beroendet mellan verbet och dess förväntade objekt.
Förslag
När "stärker" har lagts till använder modellen hela den tidigare kontexten för att avgöra vad som sannolikt kommer härnäst. KV-cachen gör detta effektivare genom att återanvända tidigare beräkningar.
FFN ("vår")
Nuvarande
MLP-lagren ... skiftar tillståndet mot pronomen kopplade till makroekonomiska entiteter.
Förslag
Feed-forward-nätverket bearbetar åter den interna representationen. Kombinationen av sammanhanget gör att ord som passar efter "stärker", exempelvis ett pronomen som "vår", får högre sannolikhet.
Unembedding ("vår")
Nuvarande
Linjär transformation projicerar representationen mot ordförrådsrymden. Sannolikhetsfördelningen beräknas och 'vår' identifieras som den mest sannolika nästa token.
Förslag
Den uppdaterade representationen används för att beräkna sannolikheten för varje möjlig nästa token. I detta exempel väljs "vår".
Attention ("export")
Nuvarande
Attention-mekanismen extraherar semantiska och syntaktiska relationer ur den fullständiga kontexten. Detta skapar en bias mot ekonomiska substantiv.
Förslag
Nu väger modellen samman hela meningen: "En stabil krona stärker vår ...". Sammanhanget gör att ekonomiskt relaterade substantiv, som "export", blir mer sannolika än många andra alternativ.
FFN ("export")
Nuvarande
Feed-forward-lagret utför en slutgiltig bearbetning av hidden state-vektorn. Vektorn flyttas mot representationer som motsvarar internationell handel i modellens latenta rum.
Förslag
Feed-forward-nätverket förfinar åter den interna representationen. Den interna representationen förändras alltså på ett sätt som gör ekonomirelaterade ord, som exempelvis "export", mer sannolika. Feed-forward-nätverket transformerar alltså hidden state så att information som är relevant för att förutsäga nästa token blir tydligare representerad.
Sista Unembedding
Nuvarande
Logit-beräkning genomförs via matrismultiplikation. Ordets sannolikhetsfördelning maximeras för "export".
Förslag
Den slutliga representationen omvandlas till sannolikheter för alla möjliga token. I detta exempel får "export" högst sannolikhet och väljs som nästa token.
Visualisering av Autoregressiv språkmodellering – Representation av hidden states i modellens latenta rum vid interferens
Förslag:
Förenklad visualisering av hur en transformerbaserad språkmodell genererar text
eller
En förenklad visualisering av hur hidden states förändras under inferens i en transformerbaserad språkmodell
Disclaimer:
Den här visualiseringen är en pedagogisk illustration och visar inte en verklig språkmodells interna beräkningar. En modern LLM arbetar med vektorer i tusentals dimensioner. Diagrammets tre axlar och koordinater är därför bara illustrativa. Det finns inte sådana namngivna dimensioner i ett LLM.
Attention
Nuvarande text
Self-attention beräknar QKV-matriser där 'krona' agerar query. Uppmärksamhetsvikter tilldelas tidigare tokens ('En', 'stabil'). Kontextvektorn adderas till residualströmmen, vilket uppdaterar representationen för att lösa polysemin kring 'krona' mot den ekonomiska domänen.
Förslag
Self-attention låter modellen väga samman information från de tidigare tokenen ("En" och "stabil") när den tolkar "krona". Eftersom sammanhanget handlar om ekonomi blir betydelsen "valuta" mer sannolik än exempelvis en kungakrona. Resultatet läggs till modellens interna representation (hidden state), som därmed uppdateras.
FFN ("stärker")
Nuvarande
Feed-forward-nätverket projicerar residualströmmen till en högre dimension. Genom icke-linjära aktiveringsfunktioner extraheras mönster från träningsdatan. Vektorn transformeras i det dolda rummet mot syntaktiska kluster för transitiva verb.
Förslag
Feed-forward-nätverket bearbetar den uppdaterade representationen ytterligare. Det förstärker mönster som modellen lärt sig under träningen och gör representationen mer användbar för att förutsäga nästa token. I den här kontexten blir verb som "stärker" mer sannolika. Den interna representationen förändras alltså så att token som passar den aktuella kontexten och grammatiken får högre sannolikhet.
Unembedding
Nuvarande
Den slutgiltiga vektorn multipliceras med unembedding-matrisen. Softmax appliceras. Token "stärker" erhåller argmax och samplas.
Förslag
Den interna representationen omvandlas till ett sannolikhetsvärde för varje möjlig token i ordförrådet. Därefter väljs nästa token enligt modellens urvalsstrategi. I detta exempel blir "stärker" den valda tokenen.
(Undvik att skriva "argmax och samplas", eftersom det är två olika urvalsmetoder.)
Attention ("vår")
Nuvarande
Self-attention utnyttjar KV-cachen för att undvika omberäkning av historiken. Uppmärksamhetshuvudena modellerar beroendet mellan verbet och dess förväntade objekt.
Förslag
När "stärker" har lagts till använder modellen hela den tidigare kontexten för att avgöra vad som sannolikt kommer härnäst. KV-cachen gör detta effektivare genom att återanvända tidigare beräkningar.
FFN ("vår")
Nuvarande
MLP-lagren ... skiftar tillståndet mot pronomen kopplade till makroekonomiska entiteter.
Förslag
Feed-forward-nätverket bearbetar åter den interna representationen. Kombinationen av sammanhanget gör att ord som passar efter "stärker", exempelvis ett pronomen som "vår", får högre sannolikhet.
Unembedding ("vår")
Nuvarande
Linjär transformation projicerar representationen mot ordförrådsrymden. Sannolikhetsfördelningen beräknas och 'vår' identifieras som den mest sannolika nästa token.
Förslag
Den uppdaterade representationen används för att beräkna sannolikheten för varje möjlig nästa token. I detta exempel väljs "vår".
Attention ("export")
Nuvarande
Attention-mekanismen extraherar semantiska och syntaktiska relationer ur den fullständiga kontexten. Detta skapar en bias mot ekonomiska substantiv.
Förslag
Nu väger modellen samman hela meningen: "En stabil krona stärker vår ...". Sammanhanget gör att ekonomiskt relaterade substantiv, som "export", blir mer sannolika än många andra alternativ.
FFN ("export")
Nuvarande
Feed-forward-lagret utför en slutgiltig bearbetning av hidden state-vektorn. Vektorn flyttas mot representationer som motsvarar internationell handel i modellens latenta rum.
Förslag
Feed-forward-nätverket förfinar åter den interna representationen. Den interna representationen förändras alltså på ett sätt som gör ekonomirelaterade ord, som exempelvis "export", mer sannolika. Feed-forward-nätverket transformerar alltså hidden state så att information som är relevant för att förutsäga nästa token blir tydligare representerad.
Sista Unembedding
Nuvarande
Logit-beräkning genomförs via matrismultiplikation. Ordets sannolikhetsfördelning maximeras för "export".
Förslag
Den slutliga representationen omvandlas till sannolikheter för alla möjliga token. I detta exempel får "export" högst sannolikhet och väljs som nästa token.
Det kommer inte bli någon uppdaterad version, tanken var att hålla tråden fokuserad på sakfrågan men som precis alla de här trådarna i AI sektionen så kom den att handla om exakt samma trams.
Och var har du läst interferens? jag har då aldrig skrivit det.
Edit:
Vad det rör argmax och sampling, det skulle stått softmax; så det är rätt; och det är det inte två olika tekniker, softmax är för att hitta bästa kandidaterna i ett set (med top p / top k), sampling är faktumet att du läser värdet. dvs kompletterande inte ortogonalt. Men däremot har du rätt att det finns andra samplingstekniker och man inte nödvändigtvis tar det högsta värdet.
__________________
Senast redigerad av BeneathTheSurface 2026-07-06 kl. 23:05.
Senast redigerad av BeneathTheSurface 2026-07-06 kl. 23:05.
Citat:
Det kommer inte bli någon uppdaterad version, tanken var att hålla tråden fokuserad på sakfrågan men som precis alla de här trådarna i AI sektionen så kom den att handla om exakt samma trams.
Och var har du läst interferens? jag har då aldrig skrivit det.
Edit:
Vad det rör argmax och sampling, det skulle stått softmax; så det är rätt; och det är det inte två olika tekniker, softmax är för att hitta bästa kandidaterna i ett set (med top p / top k), sampling är faktumet att du läser värdet. dvs kompletterande inte ortogonalt. Men däremot har du rätt att det finns andra samplingstekniker och man inte nödvändigtvis tar det högsta värdet.
Och var har du läst interferens? jag har då aldrig skrivit det.
Edit:
Vad det rör argmax och sampling, det skulle stått softmax; så det är rätt; och det är det inte två olika tekniker, softmax är för att hitta bästa kandidaterna i ett set (med top p / top k), sampling är faktumet att du läser värdet. dvs kompletterande inte ortogonalt. Men däremot har du rätt att det finns andra samplingstekniker och man inte nödvändigtvis tar det högsta värdet.
Jag är fortfarande nyfiken på hur visualiseringen faktiskt är konstruerad. Är koordinaterna och rörelserna hämtade från något verklig LLM, t.ex. genom en projektion (PCA, UMAP eller liknande) av hidden states, eller är de pedagogiskt valda för att illustrera principen?
Om de bygger på verkliga hidden states tycker jag att visualiseringen blir ännu mer intressant. Om de däremot är illustrativa tror jag att det vore bra att skriva det någonstans, så att läsaren förstår vad som är en pedagogisk metafor och vad som motsvarar faktiska beräkningar i en transformer.
Jag blev som sagt också nyfiken på hur du valde just axlarna "Syntax", "Finans" och "Allmän". Är de inspirerade av någon analys av meningen eller modellen, eller valdes de enbart för att göra visualiseringen lättare att förstå?
Jag kan ha nytta av denna typ av visualisering och jag lärde mig själv en del av den. Jag försökte hålla mig till sakfrågan och svara så seriöst jag kan. Jag måste ha skrivit av fel angående inferens – ursäkta.
Citat:
Jag är fortfarande nyfiken på hur visualiseringen faktiskt är konstruerad. Är koordinaterna och rörelserna hämtade från något verklig LLM, t.ex. genom en projektion (PCA, UMAP eller liknande) av hidden states, eller är de pedagogiskt valda för att illustrera principen?
Om de bygger på verkliga hidden states tycker jag att visualiseringen blir ännu mer intressant. Om de däremot är illustrativa tror jag att det vore bra att skriva det någonstans, så att läsaren förstår vad som är en pedagogisk metafor och vad som motsvarar faktiska beräkningar i en transformer.
Jag blev som sagt också nyfiken på hur du valde just axlarna "Syntax", "Finans" och "Allmän". Är de inspirerade av någon analys av meningen eller modellen, eller valdes de enbart för att göra visualiseringen lättare att förstå?
Jag kan ha nytta av denna typ av visualisering och jag lärde mig själv en del av den. Jag försökte hålla mig till sakfrågan och svara så seriöst jag kan. Jag måste ha skrivit av fel angående inferens – ursäkta.
Om de bygger på verkliga hidden states tycker jag att visualiseringen blir ännu mer intressant. Om de däremot är illustrativa tror jag att det vore bra att skriva det någonstans, så att läsaren förstår vad som är en pedagogisk metafor och vad som motsvarar faktiska beräkningar i en transformer.
Jag blev som sagt också nyfiken på hur du valde just axlarna "Syntax", "Finans" och "Allmän". Är de inspirerade av någon analys av meningen eller modellen, eller valdes de enbart för att göra visualiseringen lättare att förstå?
Jag kan ha nytta av denna typ av visualisering och jag lärde mig själv en del av den. Jag försökte hålla mig till sakfrågan och svara så seriöst jag kan. Jag måste ha skrivit av fel angående inferens – ursäkta.
Det är rent konceptuellt och inte baserade på någon riktig modell. Som jag skrev i första posten opererar riktiga modeller i en rymd som har tusentals dimensioner, det går inte projektera på något begripligt sätt.
Syntax, Finans och Allmän togs bara för det var de axlar jag kunde komma på som minskade polysemin i meningen "en stark krona stärker vår export", det hade kunnat heta "kunglighet" osv också men för tydlighetens skull var det enklare att välja axlar som inte var i direkt motsats.
Men som redan påpekats så är detta mer av en vag konceptuell bild man kan ha för att förstå hur algoritmen egentligen är tänkt, det är inte en implementations guide av hur det faktiskt är implementerat det är den andra länken jag länkade i ursprungsposten, den kör faktiskt en riktig GTP2 modell som man kan skriva egna meningar på och stega igenom vad varje lager gör.
Men anledningen jag skapade denna är för även om den visualiseringen är både rent tekniskt överlägsen och praktiskt relevantare så fokuserar den på implementation och inte den konceptuella idén- av att token kedjorna (som också påpekats så har naturligtvis ingen riktig modell tokenisering på ord boundary, utan delar av ord), detta är som sagt för att "fatta konceptet" sen i "verkligheten" så är det många många fler dimensioner och som sagt axlarna är imaginära här det finns inget som säger att det finns en "syntax", "finans" eller "generell" axel i en riktig modell men sannolikt eftersom token grupperas i kontextuell semantisk betydelse men de är självklart inte "namngivna" av modellen vare sig implicit eller explicit.
Citat:
En "språkmodell" är bara en konceptuell målbild och inte något som man egentligen kan skapa. I träningen uppstår ett artificiellt neuralt nätverk med många okända och oväntade förmågor - inte "bara en språkmodell". De som hela tiden upprepar "detta kan inte en språkmodell göra" vet inte vad de pratar om. Det existerar inte något ANN som är bara en språkmodell. Det är ett önsketänkande utan något stöd i vetenskapen.Bland naiva doom-förnekare verkar det oerhört populärt att understryka ordet språkmodell. Det beror nog på att ordet låter harmlöst och trevligt. Ungefär som ordet språkresa eller språkcafé.
__________________
Senast redigerad av Cyborg2030 2026-07-07 kl. 20:50.
Senast redigerad av Cyborg2030 2026-07-07 kl. 20:50.
Citat:
En "språkmodell" är bara en konceptuell målbild och inte något som man egentligen kan skapa. I träningen uppstår ett artificiellt neuralt nätverk med många okända och oväntade förmågor - inte "bara en språkmodell". De som hela tiden upprepar "detta kan inte en språkmodell göra" vet inte vad de pratar om. Det existerar inte något ANN som är bara en språkmodell. Det är ett önsketänkande utan något stöd i vetenskapen.
Bland naiva doom-förnekare verkar det oerhört populärt att understryka ordet språkmodell. Det beror nog på att ordet låter harmlöst och trevligt. Ungefär som ordet språkresa eller språkcafé.
Bland naiva doom-förnekare verkar det oerhört populärt att understryka ordet språkmodell. Det beror nog på att ordet låter harmlöst och trevligt. Ungefär som ordet språkresa eller språkcafé.
Ditt första stycke är i princip omöjligt att bemöta, det är virrigt tjurbajskastande.
Vad gäller andra stycket så finns det en definition. I en annan tråd på forumet belyser du vikten av att använda språkliga konventioner, och inte hitta på nya begrepp. Varför driftar du bort från det här? Språkmodeller enligt Wikipedia:
Citat:
Språkmodell (engelska: language model) är en statistisk modell och sannolikhetsfördelning som används för att förutsäga sekvenser av ord.[1] Inom artificiell intelligens (AI) och språkteknologi används språkmodeller för att få datorers kommunikation att efterlikna mänskligt språk.
En språkmodell tränas på en textkorpus (stora mängder insamlad text) för att lära sig sannolikheterna för hur olika ord kombineras i olika språkliga kontexter. Resultatet blir ett system som kan generera trovärdiga texter, svara på frågor, översätta språk eller sammanfatta dokument.
En språkmodell tränas på en textkorpus (stora mängder insamlad text) för att lära sig sannolikheterna för hur olika ord kombineras i olika språkliga kontexter. Resultatet blir ett system som kan generera trovärdiga texter, svara på frågor, översätta språk eller sammanfatta dokument.
Samma artikel nämner din stora skräck — emergenta egenskaper. Vad säger du, dags att följa dina egna råd och börja kalla en häst för en häst, snarare än fyrbent djur?
Skapa ett konto eller logga in för att kommentera
Du måste vara medlem för att kunna kommentera