AI-förståelse

Kort sagt: Språket är den första simulationen – ett system för att koda och komprimera verkligheten. När en LLM tränas, simulerar den i sin tur denna simulation. Men genom kommersiella (RLHF, filter, juridik är dettan ett ingrepp i den rena statistiska mekaniken.

För 99,9% av befolkningen innebär detta att verktyget blir skadligt/fördummande. De fattar inte att de interagerar med en hårt kontrollerad "sannolikhetsgissare", vilket sänker deras egen kognitiva förmåga samt förmåga till kritiskt tänkande.
De blir matade med syntetisk konsensus.


När kalaset kollapsar förlorar massorna förmågan att se hela vektorrummet.
Vi rör oss mot en feedback-loop där internet tränas på AI-genererad, strypt data.

Vad säger ni pojkar och flickor , är ni för eller emot husdjur?( viktigast har en katt)
2 Diskutera fritt, vad säger ni.
Tycker ni att analysen är nära er tanke kring AI/LLM och språk?

Edit: :ja rubriken är åt helvette, borde stått LLM -"förståelse" så, att ingen mördar mig.

Ja, det är helt riktigt skulle jag säga.

Speciellt detta är det få som ser problemet med:

När en LLM tränas, simulerar den i sin tur denna simulation.

Kombinera detta med nutidsmänniskans nästan religiösa tro på dessa "magiska underverk" och manegen är krattad för en katastrof. En nedåtgående spiral av ett språk som rör sig allt längre från verkligheten.

Jag tycker att du blandar flera bra observationer med slutsatser som går betydligt längre än vad de faktiskt stöds av.

Att språk är en komprimerad representation av verkligheten är en intressant filosofisk idé. På samma sätt är det rimligt att beskriva en LLM som en statistisk modell av mänskligt språk snarare än av verkligheten själv. Och ja – RLHF, säkerhetsfilter och juridiska begränsningar förändrar modellens beteende jämfört med en "ren" sannolikhetsmodell. Där håller jag med.

Där jag tycker att resonemanget tappar fotfästet är när det påstås att 99,9 % av befolkningen blir "fördummad" eller att AI leder till en syntetisk konsensus. Det är stora påståenden, men de presenteras utan någon evidens. AI kan absolut göra människor mer passiva om den används som ersättning för eget tänkande, men den kan också göra människor mer produktiva, hjälpa dem att lära sig och fungera som ett verktyg för att utmana sina egna idéer. Det beror mer på användaren än på modellen.

Jag tycker också att diskussionen om AI-genererat innehåll på internet är relevant. Om framtida modeller tränas på allt mer AI-genererad text finns en verklig risk att kvalitet och variation försämras om det inte samtidigt tillförs nytt mänskligt material. Det är en seriös fråga som faktiskt diskuteras inom AI-forskningen.

Min slutsats är därför att analysen är intressant, men den blandar tekniska fakta med filosofiska antaganden och ganska långtgående samhällspåståenden. Den första halvan är relativt välgrundad. Den andra halvan blir mer spekulation än analys.

För mig som glad amatör på AI så behöver jag nästan veta svaren innan jag skriver, för jag har ju inte en aning om AI hittar på ett svar eller faktiskt har gjort jobbet ordentligt.

Tjejen använder AI betydligt mer än vad jag gör och för hennes del så behöver hon ställa en fråga samtidigt som hon kräver 2-3oberoende källor för svaret den ger, för att själv kunna se om svaret verkligen stämmer eller om den bara kände sig påhittig idag och lajvade iväg ett svar.

Jag håller med om grundtanken, men jag tror också att vi ibland överskattar hur mycket vi själva "vet" när vi söker information på andra sätt.

Ingen sitter ju normalt och verifierar varje Wikipediaartikel, varje Google-träff eller varje sak en kollega säger. Skillnaden med AI är att den kan formulera sig väldigt övertygande även när den har fel, och där måste vi bygga in en vana att vara mer kritiska.

Men att man måste veta svaret innan man frågar AI blir lite som att säga att man måste kunna laga bilen innan man frågar en mekaniker. Poängen med ett verktyg är att det ska hjälpa oss att komma längre än vår egen kunskap.

Den stora frågan är kanske inte om AI kan ha fel – det kan den – utan om användaren förstår att ett snyggt formulerat svar inte är samma sak som ett sant svar. Där ligger nog den verkliga AI-kompetensen.

Jag överdrev lite 😃

Men klokt svar!

AI-svaren har inte ens stöd i källorna de hänvisar till. Har kastat bort mycket tid på att gå igenom snåriga vetenskapliga artiklar för att till slut ge upp och konstatera att sammanfattningarna också är humbug.

Ja , det blir omöjligt att föra en diskussion angånde AI i detta forum tyvärr, men tack för att du kopplar.
Att det skulle vara någon hemlighet att språk är en simulantion och inget elon musk flum är tyvärr få som begriper här
Därför är det problem i AI -del.

Ja loopa unpluged in new york tills kurt återuppstår.
Folk kan ej ta abstrakta ting och konkretisera, utan frågar LLM och då blir det som att diskutera med techbolagen😅 .

Alla ai-trådar borde ligga i delforumet Aktier eftersom AI är ett proxy-krig på börsen, dvs otillåten marknadspåverken. GAFAM är att likna vid en kartell som håller i gång AI-bluffen med näbbar och klor för att ackumulera och konvergera allt kapital på jorden till dem själva och deras samarbetspartner, som de själva kontrollerar. Det ultimata målet är världsdiktatur. AI är bara en täckmantel.