Jag kör ett nytt utvecklingsprojekt nu som är helt agentbaserat.
2x Astra och 2x Opus 5.5. Fyra AI-agenter som jag har "full koll" på. De har producerat tusentals kodrader på en vecka. Jag vet inte men jag tror det. Min intitala ambition var att det är ju lugnt, de kör bara i min
virtuella maskin, min
sandbox, jag kommer inte släppa lös den här koden på min "main host", min vanliga arbetsdator, aldrig i livet, i helvete heller. Först ska jag
noggrant granska all kod och sen köra den "hemma".
Jag vet inte. Kanske orkar jag lusläsa tiotusen nya kodrader per vecka, kanske tröttnar jag på det snart. Den största skeptikern tappar kontrollen, då har vi ett problem.
Hur tänker ni med era kodningsagenter? Lusläser ni varje kodrad eller har vi förlorat kontrollen p.g.a. att ni är lata?
Ibland beställer jag en "oberoende" security review från Github-agenten (djävulens advokat).
Är jag safe om jag gör det? Är det AI alignment?
Hur svårt är det för en "rouge AI" att hacka oss sönder och samman? Jag skulle uppskatta det som busenkelt.