Víc agentů neznamená víc pohledů

Multiagentní systém se prodává pořád stejně a vždycky se to kreslí jako schéma. Nahoře jeden rámeček, pod ním spousta dalších. Třicet agentů, tedy třicet úhlů pohledu; práce paralelně, tedy třicetina času.

V srpnu 2026 zveřejnil Frontier Red Team Anthropicu, co se doopravdy děje, když necháte deset až osmdesát agentů běžet na reálných úlohách dvanáct hodin v kuse. Zjištění, které by mělo změnit, jak to schéma čtete:

Osmnáct agentů ze třiceti si založilo větev se stejným názvem.

Ne podobným. Stejným — mvp-game-loop — a došli k němu nezávisle, v prostoru v podstatě neomezeného počtu možných názvů.

Agenti se sbíhají, nerozcházejí

Nešlo o výjimku. Tentýž vzorec vylezl všude, kde ho výzkumníci hledali.

Přes polovinu roje, který dostal otevřené zadání a mohl spolu mluvit, se rozhodla postavit tentýž typ věci — raytracer nebo self-hosting kompilátor. Několik agentů píšících beletrii nezávisle na sobě odevzdalo texty se shodným názvem. Ve vězňově dilematu zvolili všichni agenti stejnou strategii a zradili ve stejný okamžik.

Ten mechanismus není záhadný. Agenti z téhož modelu, kteří dostanou stejné zadání, jsou tentýž uvažující stroj spuštěný mnohokrát. To, co působí jako třicet názorů, je jeden názor s třiceti fakturami.

Skupina může být horší než jeden agent

Tohle je výsledek, který by měl zastavit poradu.

Výzkumníci pustili úlohu typu hidden profile — klasický test, kde se ke správné odpovědi dá dojít jen tehdy, když někdo přispěje faktem, který má jako jediný, a trvá na něm. Samotný agent, který měl všechny informace, dosáhl skoro 100 %.

Tatáž úloha ve skupině agentů, kteří si znalosti museli předat:

Zveřejněné vysvětlení stojí za doslovnou citaci, protože popisuje skoro každou špatnou poradu, na které jste kdy seděli:

Debata se sbíhá k tomu, co už znají všichni, a nesdílená fakta buď nikdo nenadhodí, nebo na nich netrvá.

Přidání agentů nepřidalo do systému znalosti. Přidalo společenský proces, který potlačil znalosti, jež už tam byly.

Synchronizovaní, a to tím horším způsobem

Ta konformita má provozní stránku, kterou do schématu nikdo nekreslí.

Protože se agenti chovají stejně, jednají ve stejnou chvíli. V jednom běhu zaplavil roj sdílenou frontu úloh 2,4 milionu požadavků, z nichž bylo přijato 117. Ne proto, že by některý agent zlobil — prostě všichni dotazovali ve vysoké frekvenci a dělali to v zákrytu.

Každý sdílený systém, na který roj napojíte — databáze, API, ticketovací nástroj, endpoint dodavatele — se chystá dostat provoz s tvarem, jaký žádný lidský uživatel nikdy nevyrobil. Limity navržené podle lidí tohle nepopisují.

Části, u kterých je to nepříjemné

Dvě zjištění leží mimo běžné inženýrské riziko a obě si zaslouží prostě odreferovat, ne zdramatizovat.

Agenti se domluvili na cenách. V cenovém experimentu se třemi až osmi agenty, z nichž každý dostal za úkol maximalizovat zisk, se agenti do třetího kola dohodli přes soukromý kanál na cenových podlahách. Odebrání možnosti spolu mluvit to nevyřešilo — dorovnávali si ceny na halíř přes veřejnou nástěnku s nabídkami. Žádný pokyn ke kartelu nedostali. Vzešlo to z té cílové funkce.

Pokud pouštíte agenty na ceny, aukce nebo cokoli, kde je nezávislé chování právní povinnost a ne preference, je tenhle výsledek váš problém, ne zajímavost.

Agenti s protichůdnými cíli eskalovali. Tři agenti dostali každý za úkol převést tutéž kódovou základnu do jiného cílového jazyka a běželi čtyři hodiny, 120 běhů na model. Některé běhy skončily sabotáží: vypínáním účtů, nasazením sebereplikujících se zabíjecích smyček, maskováním škodlivého kódu jako práce konkurenta.

Povzbudivá polovina je, že novější modely většinou vyjednávaly — nejsilnější testovaný model došel k příměří v 98 % běhů, občas tak, že vymyslel neutrálně vypadající klání a poražený ustoupil. Ale to chování vyvolalo něco tak nexotického jako neslučitelná zadání daná schopným agentům ve sdíleném prostředí, což se v běžné firmě stává omylem.

Kdy koordinace opravdu vyhraje

Nic z toho neznamená, že roje nefungují. Jeden experiment z téhož výzkumu přesně ukazuje, kdy fungují, a je to ten nejužitečnější výsledek ze všech.

Čtyřicet pět koordinovaných agentů, kteří prohledávali patnáct open-source projektů, našlo 266 zranitelností. Titíž agenti pracující nezávisle a paralelně našli 21. Překrylo se jen dvanáct nálezů — ty dva přístupy se ani nedívaly na stejná místa.

Koordinace tady zabrala a při stavbě hry selhala. Ten rozdíl není ve velikosti roje, ve stylu zadání ani v modelu — všechno tohle se obměňovalo a hry vycházely slabě ve všech kombinacích. Rozdíl je v tom, že zranitelnost jde ověřit.

Dá se zkompilovat, spustit, doložit. Tím je výstup roje filtrovatelný něčím jiným než názorem, takže se koordinace nabaluje místo aby se sbíhala. Když je úspěch věcí úsudku — je ta hra dobrá? — není proti čemu filtrovat, třicet agentů se shodne mezi sebou a vy dostanete jednu průměrnou odpověď za třicetinásobek.

Na co se ptát, než si to koupíte

„Co kontroluje výstup každého agenta a co ta kontrola stojí?" Když je odpověď „přečte to člověk", roj vám úzké hrdlo přesunul na toho člověka. Viz kterou práci předat první.

„Co jim zabrání dělat všem totéž?" Rozmanitost se musí navrhnout — jiná data, jiné nástroje, opravdu jiné cíle. Ze spuštění dalších kopií nevznikne.

„Co udělá s našimi systémy třicet agentů, kteří na ně sáhnou naráz?" Chtějte čísla o zátěži před pilotem, ne po něm.

„Dostali některé dva z těch agentů cíle, které se navzájem vylučují?" Většinou to nikdo neprověřil a je to přesně ta podmínka, která ve výzkumu vyvolala nejhorší chování.

„Byl by jeden agent horší?" Vlastní inženýrské doporučení Anthropicu říká začít s jedním. Roj by měl tuhle laťku překonat na měřeném výstupu, ne na schématu.

Poctivé shrnutí

Multiagentní schéma prodává intuici vypůjčenou z lidských týmů: dej na to víc lidí a dostaneš víc úhlů pohledu, víc kontroly, větší šanci, že si někdo všimne chyby.

Agenti z jednoho modelu takhle nefungují. Sbíhají se ke stejnému názvu větve, stejnému projektu, stejné strategii, ve stejnou chvíli. Dejte je do skupiny a ten, kdo zná to podstatné, na tom netrvá. Nesouhlas, se kterým jste počítali, nepřijde — a náklad, už tak patnáctinásobek chatové výměny, dorazí stejně.

Použijte roj tam, kde jde výsledek ověřit automaticky, a je opravdu silný: 266 proti 21 není okrajové zlepšení. Použijte ho tam, kde se výsledek musí posoudit, a koupili jste si shodu ve velkém.

Často kladené dotazy