En helt opartisk och låst AI-tjänst för politisk information?

Det var precis det jag skrivit i ungefär 5 poster... AI saknar förståelse, det är statistik. Ibland blir det rätt, i bland blir det fel. Det går inte förutsäga och därför går det inte få någon "objektivt" svar för AI kan inte avgöra vad som är rätt eller fel, det har inga åsikter eller tankar. Det "kastar" tärning med vad det väljer att säga och det är synnerhet farligt när två olika utkomster ligger nära varandra.

Du kan mata det med hur mycket data som helst "in context" som är vad du pratar om, det hjälper i bland men det finns ingen som helst garanti att det kommer något användbar ur det. Hade det löst det underliggande problemet med tekniken hade varenda jävel gjort så sedan flera år, precis som de här puckona på det här forumet skrev för några år sedan då man skulle skriva att den skulle skriva hur "säker" den var på något efter varje påstående eller att man skulle skriva "du ska inte ljuga" osv.
Det vet inte, det kan inte och hade det gått så hade man inte behövt skriva så... det hade varit standard i varenda chatbot att göra detta underytan.

Det är liksom tiotusentals forskare som jobbat på att försöka få AI användbart under flera år, man har fortfarande idag inte löst detta absolut mest grundläggande problem att AI inte går att lita på, för det finns ingen förståelse.

Ändå skriker folk här om "AGI" osv, det är skrattretande och vansinne.

Bara för att vara extremt tydlig.

Normalt när man pratar med en person, så kanske du frågar en sak "Vad heter kungen?" och du får svaret "Carl XVI Gustaf", du frågar kanske "Hur många L är det i aldrig" och får svaret "ett" av personen, det är så människor oftast avgör om någon är pålitlig.
Svarar de "Jag vet inte", "Det är 5 L i aldrig" osv så lär du dig ganska snabbt att den personen frågar du inte om sådana saker.


En AI modell kommer ge ett svar varje gång, frågar du "Vad är de första decimalerna i PI" så svarar den "3.14159265" tex och då frågar du "Vad är de första hundra decimalerna av PI?" Och den svarar "3.14159265157223623929572737712849883837756762011 15538609292918181782754753892921192918727475369298 1 8311727" osv och du kanske orkar kolla upp 10 av dessa, och sen antar du resten stämmer nog också... Men i egentligen så är det sannolikt fel redan efter 6:te siffran tex.

Just nu är kanske PI ett väldigt dumt exempel eftersom jag sagt 17 gånger nu, AI är statistik och du kan ge dig fan på att den sett PI = 3,14159... osv i oändliga exempel så just det stämmer säkert 99 av 100 gånger när du frågar just för att den sifferföljden är så statistiskt signifikant.

Men precis samma sak gäller allt och ju mindre exempel som påträffats ju mer sannolikt är det att det kommer totalt strunt, även om det ser helt rimligt ut för språkföljden följer statistik också, den kommer alltid vara grammatisk korrekt och välskriven. Den skriker pålitlighet och det är därför man blir så grundlurad av det, där en humanoid hade varit ute på tunn is så hade den sannolikt svarat "jag vet inte", "ingen aning" osv så gör inte modeller det.
Utan i stället får man alltid en sannolikhetsdistribution av möjliga tokens och det är det jag menar med att man kastar tärning, för vad som sker är att man väljer ett slumpmässigt token ur denna distribution, och det är just därför de är mer troligt att vara rätt på vissa saker än andra, sådant som vi människor tycker är "jobbigt och svårt" som matematik, fysik eller dyl är något av det vi har spaltkilometer av data på, det finns inget fält som är så dokumenterat som fysik tex. Därför kommer det mesta du frågar där som du tycker är "imponerande" och dels ens har möjlighet att verifiera, ser ut att stämma.

Men ditt exempel med att summera, det är egentligen det som "CoT" bygger på, alltså chain of thought eller "thinking" som man kallar det, man tränar modellen att generera en massa variationer och sedan har man lärt den att typ summera detta block, det är ett sätt som viktar sannolikheten fördelaktigt i vissa fall men det ger inte modellen intelligens som det kan låta som alltså "thinking-mode".

Jag önskar faktiskt fler egentligen satte sig in i hur det fungerar än att läsa pressnyheter och twitter poster från personer vars största intresse är att du just "köper" att nu har vi tänkande datorer här.

Edit:

Och för att förtydliga vad CoT bygger på...

Modellen genererar alltså (och oftast är detta numera dolt och står bara typ "tänker..." eller så)

Men om du frågar den hur skalar jag en banan

Då börjar det med att generera ett "thinking start" token, sedan kompletterar modellen ordföljden om och om igen, samtidigt som det är intränat att sannolikheten att den ska generera ett "thinking stop" token ska höjas med längden på thinking "blocket", och i stort sett det som genererats "flest gånger" är i stort sett påverkar framtida genererade tokens, du kan se det som att det "summerar". Det finns inga tankar här alls. Det är statistik trolleri.

"<|think>
du skalar en banan genom att vrida på toppen.
nej vänta... du skalar en banan genom att bryta stammen.
nej vänta... du skalar en banan genom att äta skalet.
nej vänta du skalar en banan genom att bryta stammen.
<|think stop>

du skalar en banan genom att bryta stammen"

Det är faktiskt exakt samma anledning du kan få en modell att balla ur totalt om du inför en massa regler som att den för varje stor bokstav ska skriva !, och sedan för varje ! ska skriva "SKRIK" osv (det börjar bli väldigt populärt på youtube just nu med framförallt röstmodeller som är mindre/snabbare modeller och därför mer känsliga för detta men alla modeller har det här problemet om du matar på med vissa mönster tillräckligt länge)

Ett problem är att politiker är duktiga på att filtrera sina påståenden på sätt som inte nödvändigtvis är osanna.

Som ett exempel: regeringen får kritik för bristande miljöarbete kan en ansvarig minister kontra med exempelvis "regeringen har gjort en historisk satsning på våra insjöar, där vi skjutit till x antal miljoner på att stärka ekosystemen och förbättra vattenkvaliteten". Även om man har skurit bort en massa andra dyra och viktiga delar av miljövård och skyddslagstiftning, och därmed försämrat det sammantagna området, kan man låta bli att möta den kritiken och istället framhålla mindre områden man satsat på.