Autonomní AI agenti mohou výrazně zrychlit vývoj. Umí převzít konkrétní úkol, pracovat v kódu, spouštět testy a posouvat změnu dál bez neustálého vedení. Zároveň ale platí, že čím více volnosti agent dostane, tím důležitější jsou pravidla, dohled a možnost zásahu.
Orca proto nepracuje s autonomií jako s jednoduchým přepínačem zapnuto/vypnuto. Staví ji jako řízený režim práce, kde lze pro každou misi nastavit správnou míru samostatnosti a zároveň zachovat kontrolu nad rizikovými oblastmi.
Autonomie podle kontextu
Ne každý úkol má stejnou míru rizika. Úprava textu v rozhraní, doplnění testu nebo refaktor izolované komponenty nevyžadují stejný dohled jako změna autentizace, databáze nebo platební logiky.
Orca s tím počítá pomocí úrovní autonomie:
- L0 — maximální kontrola, agent čeká na schválení.
- L1 — omezená samostatnost pro rutinní kroky.
- L2 — samostatná práce v rámci povolených hranic.
- L3 — plná autonomie pro ověřené scénáře.
Důležité je, že autonomie není vlastnost agenta samotného. Je to nastavení konkrétní mise. Stejný agent může jednou pracovat opatrně pod dohledem a podruhé samostatně na dobře vymezeném úkolu.
Bezpečnostní pravidla před spuštěním práce
Nejlepší okamžik, kdy zastavit rizikovou práci, je před jejím zahájením. Orca proto vyhodnocuje bezpečnostní pravidla ještě před tím, než agenta k úkolu nasadí.
Pravidla sledují oblasti, které obvykle vyžadují lidskou pozornost:
- změny databázového schématu,
- autentizaci a oprávnění,
- platební nebo fakturační logiku,
- destruktivní operace,
- zásahy s vysokým dopadem na provoz.
Pokud úkol spadá do citlivé oblasti, může být pozastaven, dokud jej člověk výslovně neschválí. Tím se autonomie nezastavuje plošně — pouze se vymezují hranice, kde má rozhodovat člověk.
Dohled během běhu
Samotné schválení na začátku nestačí. Důležité je také vědět, co agent dělá v průběhu práce.
Orca proto sleduje aktivní relace a převádí jejich průběh do čitelných stavů. Místo ručního kontrolování několika terminálů vidíte, zda agent pracuje, čeká na vstup, dokončil úkol nebo narazil na problém.
To je praktické zejména u delších úloh. Agent může běžet desítky minut, testovat různé varianty nebo čekat na rozhodnutí. Bez dohledu se z takové práce stává černá skříňka. S dohledem se z ní stává řízený proces.
Kontrolovaná paralelizace
Skutečná hodnota orchestrace se projeví ve chvíli, kdy běží více agentů najednou. Jeden úkol se dokončí, další se uvolní díky splněné závislosti, jiný čeká na schválení a další pokračuje v bezpečné části práce.
Orca tento proces řídí na úrovni mise. Hlídá počet souběžných agentů, respektuje závislosti a nepouští rizikové úkoly bez schválení. Díky tomu může tým využít paralelní práci agentů, aniž by ztratil přehled o tom, co se právě mění.
Rychlost bez slepé důvěry
Cílem není brzdit AI agenty. Cílem je umožnit jim pracovat rychle tam, kde je to bezpečné, a zastavit je tam, kde je potřeba lidské rozhodnutí.
To je rozdíl mezi jednoduchou automatizací a provozně použitelnou autonomií. Automatizace jen spouští další kroky. Řízená autonomie chápe, že některé kroky mohou pokračovat samy a jiné musí počkat.
Orca staví právě na tomto principu: agenti mají prostor pracovat, ale systém zároveň drží hranice, které chrání projekt, data i provoz.