Hur ANN med IQ 130 fungerar

Nja gör dom verkligen det?

Det är fullt tillåtet för mig att köpa mig en lärobok i något och sedan profitera på det jag lärde mig.

Det beror väl på hur mycket plagiat det blir i slutändan. Men får ju t.ex. skriva låtar som är liknar gamla låtar men de får inte vara för lika. Det här kan inte AI-utvecklarna styra så enkelt, det beror ju delvis på slumpen hur likt något annat det blev. Detta är ett reellt problem idag. Det pågår väl ett flertal stämningar mot bolagen just nu.

Ytterligare en punkt som påvisar den nuvarande AI-teknikens bångstyighet och opålitlighet. Men det värsta är väl inte låtstölder när AI-agenterna aktivt försöker utpressa, mörda, eller ta över din dator.

Det jag lär mig från en lärobok t ex på tekn högskola kan jag ju använda rakt av och profitera på hur mycket som helst. T ex en algorithm.
Den som skrivit boken får ju betalt när jag köper boken. Det går inte att komma och säga att denne skall ha en del av min lön.

Dessutom är det så att det jag lärde mig i boken inte nödvändigtvis är författarens egendom. Utan denne kan ha lärt sig materialet av någon annan.

Jag försöker förstå vad som menas med dom olika termerna och undrar specifikt vad ”kausal mekanik” betyder. Har försökt hitta en vettig beskrivning på nätet utan att bli särskilt nöjd.

Skulle du, lite kortfattat, kunna beskriva vad det är och varför det är så avgörande?

Jag stöter få och då på argument att ”det bara är en LLM”. Att det skulle diskvalificera AI’n för att klassas som intelligent.
Men jag förstår liksom inte varför det skulle ha någon betydelse. Det är väl ungefär så vi människor fungerar också?
Vad jag förstår så handlar det om hur AI’n kommunicerar. Det finns väl AI som bättre kommunicerar med bilder? Vad har det med huruvida AI’n skulle kunna bli klassad som medveten eller inte att göra?

En mekanism hos en intern världsmodell så att den kan orsaka någonting i världen. Alltså förstå verkligheten.

Jämför språkmodeller som är text bundna och ingenting egentligen förstår av verkligheten.

Jag förstår, tack ska du ha.
Men är inte det samma sak som att lösa en uppgift? Vi behöver ju inte nödvändigtvis förstå internet för att integrera med, och ändra det. En 3-åring kan ju klicka runt på en läsplatta utan att veta vad den gör. Men klickandet orsakar ändå förändring och tids nog så växer förståelsen.

Edit: vad jag menar är liksom att om en AI blir tillgänglig avancerad så kanske den blir väldigt medveten om dess kognitiva banor. Vi människor är ju till exempel inte särskilt medvetna om den sidan utan agerar oftast spontant på intryck från omgivningen. Vi tränar kanske våra muskler för att bli snygga.
Medans om man vänder på steken och tänker sig att en AI skulle vilja försöka förbättra sina förutsättningar för att lösa problem eller processa inflammation. Då kanske den inte nödvändigtvis behöver ha en initial förståelse av världen. Utan det kanske räcker med att pröva sig fram. Vi kan ju lära oss ganska lätt att springer vi mycket så får vi bättre kondition. Utan att ha en susning om varför det blir så.

Praktisk problemlösning är kausal mekanik. Språkmodeller hanterar data - agenter hanterar kausalitet. Det är två helt olika kategorier: informationssystem och mekaniska system.

Aha, blir inte det då, på sikt, två sidor av samma mynt? Ungefär som att vi har olika delar i hjärnan som har olika funktioner. Vänster och höger hjärnhalva till exempel.

Hur framtiden för språkmodell agenter ser ut är oviss eftersom den inte har en världsmodell.

Det är lite off-topic, men lagen har rätt på samsyn inom detta. Nyligen kom en dom mot Suno.



Även Anthropic har en (eller flera kanske?) dom mot sig.

Exemplet är ganska bra. Och är också som de flesta människor är. Dom har ingen förståelse utan har bara undermedvetet lärt sig att agera på stimuli.

Det är få människor som t ex kan beskriva mänskligt beteende som koncept och generella principer. Dvs som har föståelse.

Ta t ex en så trivial sak som att gå. Det klarar människor inte av att beskriva. Dom har aldrig tänkt i termer av förståelse. Däremot kan dom gå. Och det sköts på samma nivå som LLM-er har. Dvs utan förståelse.


Därför är jag tveksam till att ha mycket högre krav på AGI än vad vanliga människor motsvarar.
Det går naturligtvis ställa så höga krav på AGI att inte en enda levande människa lever upp till det. Det verkar mer vara så man gör nu.