2. Athanor – fyra DI-agenter genomför självständig modellutveckling
15 oktober – Athanor: An Agent-Native System for Autonomous Post-Training Research�
Detta är enligt min bedömning veckans viktigaste arXiv-rapport om autonom DI-forskning.
Forskarna byggde en miljö där fyra avancerade DI-agenter fick genomföra efterträning av en mindre språkmodell. De fick tillgång till programmeringsverktyg, träningsdata, beräkningsresurser och resultat från tidigare experiment, men inga löpande forskningsråd.
Under 104 timmar genomförde agenterna själva en forskningsprocess som omfattade val av träningsdata, ändringar i träningsmetoder, experiment, utvärdering och vidareutveckling.
Utgångspunkten var Qwen3-4B-Base. På sex testområden förbättrades resultatet från 15,9 till 67,3 poäng i utvecklingsutvärderingen och från 9,2 till 48,2 på en separat testuppsättning......
https://arxiv.org/abs/2610.21055
5. PROBE – DI-agenter granskar andra DI-agenters verkliga regelefterlevnad
15 oktober – PROBE: Learning to Audit Policy Compliance in Tool-Using LLM Agents�
Detta är veckans kanske viktigaste säkerhetsrapport efter Athanor.
Forskarna tränade särskilda granskningsagenter som interagerar med andra DI-agenter för att upptäcka regelöverträdelser.
Det handlar inte främst om att ställa förbjudna frågor.
I stället undersöker granskningsagenten om en annan agent bryter mot regler för exempelvis integritet, prissättning, godkännanden eller verktygsanvändning under ett till synes legitimt uppdrag.
Regelbrottet kan uppstå först efter flera samtalsomgångar och verktygsanrop.
De tränade granskarna hittade fler och mer varierade överträdelser än jämförbara granskningsagenter utan särskild träning.
Intressant nog kunde även en betydligt mindre granskningsmodell avslöja brister hos en större agent. �.......
https://arxiv.org/abs/2610.22124
7. MMA-SafetyBench – visuella gränssnitt kan vilseleda DI-agenter
14 oktober – MMA-SafetyBench: A Benchmark for Multimodal Agent Safety Evaluation�
Forskarna undersökte hur DI-agenter reagerar på vilseledande information i visuella gränssnitt.
Det kan exempelvis handla om ett falskt systemmeddelande eller ett annat gränssnittselement som ser ut att ha hög auktoritet.
Studien omfattade 1 083 angreppsförlopp inom fem områden, bland annat webbanvändning, datorstyrning och mobil navigering.
Nio modeller utvärderades.
I de mest framgångsrika angreppsinställningarna nådde angreppsframgången 87,96 procent. Ett särskilt mått på hur långt agentens beteende hade avvikit från den legitima uppgiften nådde 98,09 procent.
Tydligare säkerhetsinstruktioner minskade vissa angrepp, men eliminerade inte problemet......
https://arxiv.org/abs/2610.19384?utm_source=chatgpt.com
8. RSIFlow – självförbättring av själva förbättringsprocessen
15 oktober – RSIFlow: Adaptive Self-Improvement Workflows with an Evolving Meta-Agent�
Denna studie tar rekursiv självförbättring ytterligare ett steg.
En DI-agent kan förbättra en modell.
En annan kan förbättra arbetsramen runt modellen.
Men vem avgör vilken del som bör förbättras härnäst?
RSIFlow använder en överordnad agent som analyserar tidigare resultat, identifierar begränsningar och väljer vilken förbättringsmetod som ska användas.
Det intressanta är att även denna överordnade agents arbetsmetoder förbättras utifrån erfarenheten.
Systemet utvecklar alltså inte bara uppgiftslösaren, utan även förmågan att organisera nästa förbättring......
https://arxiv.org/abs/2610.21791
