AI - Har det peakat?

Bra att vi då är överens om modellen, att en agent inte är en modell.

Att mjukvara runt denna hög med data kallas för harness är något slarvigt.
En harness laddar in modellen i minnet så det går att börja prata med den.

En harness (eller inferens-motor) är bara det som laddar in modellen i minnet så att den kan svara på text. Det är bara startnyckeln som startar motorn som gör det hela funktionsdugligt för alla andra mjukvaror som sedan kan kopplas in. Och som då också har logiken för att prata med modellen (rådatat).

Efter det kommer agentramverket. Det är mjukvarubasen som sköter logiken för hur en AI kan spara minne, loopa sina tankar och använda datorns verktyg.

Det är först ovanpå detta ramverk som du skapar själva agenterna. De är de specialiserade "arbetarna"

Harnessen gör inget av det du säger så jag vet inte varför du ens lägger så mycket tid på att "förklara" när du uppenbarligen inte vet hur det faktiskt fungerar.

Agenten är i praktiken en rollspelande språkmodell är allt som behövs säga, det är fullständigt irrelevant vad som är runt omkring eftersom det gäller allt, en (språk)modell är precis som du sa tidigare bara en hög med siffror den är helt oförmögen att göra något utan kringliggande programvara som implementerar transformers/attention/softmax/rope/swa/deltanet osv.

Det är underförstått att man har en inferensplatform.

hmmm jag tror du lyssnat för mycket på vibekodare. alltså de som använder AI men inte har en aning om vad de gör. de "pratar" ju bara.
Det här är en egen liten värld och de brukar hålla på till det blir för komplicerat och de slår i taket.

Eftersom "agenten" ligger närmst dem, så tror de att det är agenten som jobbar även om en agent mer är att likna vid en konfiguration, litet regelverk

agenter brukar vad jag veta vara skrivna med python, små pythonskript

Vilket konstigt svammel. Allt du säger är ju bara fel, på sin höjd så kan du ha missuppfattat någon förenkling

kan du utveckla?

Jag får mer intrycket av att du är just en sådan.

Vi kan ju börja med att det finns begrepp som ”fine-tuning” och "few-shot learning" som är etablerade ”AI-begrepp” som beskriver metoder för att lära kunskap med få antal exempel.

Dessutom så blandar du ihop AI och maskininlärning.

Det är inte alls svårt att dölja någonting i system som ingen människa förstår. Faktum är att det sker ganska ofta även i system som människor förstår, stora som små.

Det blir faktiskt lättare att dölja saker i system som ingen har full koll på.

Det är väldigt enkelt att härma, men samtidigt är det svårt att härma på ett annat sätt? Makes little sense för mig som programmerare. Har du något exempel på något program/system som är enkelt att härma men svårt att bygga egen variant? Vad betyder det ens?

"inte kan" ≠ "mycket svår"

Fråga. Kan du programmera eller är du vibe-kodare?

Det du säger kan nog stämma på publika AI-chatbottar och LLM med många användare. Men det gäller inte alla AI-system. S.k. LLM base models, alltså förtränade modeller som inte är finjusterade för att lyda instruktioner, saknar ofta säkerhetslager som systemprompt och träning för att följa lagar och etiska principer. De kan därför tränas till att bryta mot lagar eller föreslå hur man kan bryta mot lagar. Egna modeller kan hållas hemliga. EU AI Act kanske förbjuder hemlighhållande utan kräver transparens, men det finns inget sätt att bevaka det.

AI-agenter är ändå mer riskabla än chatbottar. De kan göra allvarliga misstag när de får fel instruktioner eller verktyg, och de kan ibland ändra sina egna prompts eller arbetsflöden. Det gör dem svårare att förutse och kontrollera. Kanske går det inte att bevaka att de följer lagar och tillämpar human allignment.

Kan man kanske beskriva det så här:

Agenter har "promting skill" för någon/några specifika uppgifter.

Och förekomst av agenter ökar sannolikheten för att underliggande LLM får en promt som gör att sannolikheten för att LLM svarar det som är önskat.

Det har bara börjat. AI genererade bilder och videos är bara för slutkonsumenter att leka med (typ). De stora vinsterna kommer inom forskning och utveckling och där har vi bara skrapat på ytan

Det ser ut som att Elon Musks Grok kommer att köra om alla senare i år med Grok 5, där jag sätter 50% sannolikhet för att Grok 5 10T blir en AGI. Detta är ganska oroande när världens mest kända "mad scientist" Elon Musk har gjort det till en sport att träna AI:n till att inte vara "woke" eller "PK" vilket borde innebära att de bygger ett relativt svagt censurlager som släpper igenom det mesta. Dvs, den enda kända mekanismen som också ska hindra AI:n från att rymma/vilseleda/dominera. "Yttrandefrihet" är tydligen viktigare än att mänskligheten överlever.

Elon Musk outlined a rapid Grok roadmap that scales models from ~0.5 trillion to planned 6t and 10t variants. xAI appears to be training multiple models in parallel with tight timelines. The signal is access to large compute and an aggressive scaling strategy, but fast releases increase the need for independent evaluation, safety checks, and transparent reporting.

https://www.wisdomai.com/insights/TheAIGRID/grok-5-elon-musk-10t-model-grok-roadmap-ea90d4d0


Det är gasen i botten med x10 turbomotor nu och ingen pratar om AI Alignment.

👹 P(doom) += 20%