Když AI agent pracuje v reálném projektu, potřebuje přístup k nástrojům — číst soubory, spouštět příkazy, zapisovat změny, volat API. Ale ne všechny nástroje jsou stejně rizikové. Čtení logu je něco jiného než DROP TABLE. Mazání souborů je něco jiného než editace komentáře.
Orca proto přestala pracovat s oprávněními jako s jednou hromádkou. Každý nástroj má vlastní úroveň důvěry.
Čtyři úrovně, jeden nástroj
Místo globálního „agent může všechno” nebo „agent musí vše schvalovat” funguje Orca na úrovni jednotlivých nástrojů. Ke každému nástroji lze nastavit jednu ze čtyř úrovní:
- Allow — nástroj běží bez ptaní. Vhodné pro čtení, vyhledávání, nenásilné operace.
- Ask — agent se před každým použitím zeptá. Vhodné pro zápis, mazání, změny konfigurace.
- Deny — nástroj je pro agenta zakázaný. Vhodné pro operace, které má dělat výhradně člověk.
- YOLO — nástroj běží bez ptaní a bez logování do timeline. Vhodné pro rychlé iterace při vývoji, kde by každé schvalování brzdilo flow.
YOLO režim je zajímavý hlavně v praxi. Při ladění promptu nebo rychlém prototypování nechcete každou vteřinu klikat na „schvaluji”. YOLO řekne agentovi: „tomuhle nástroji věřím, dělej si co chceš, výsledek mi ukaž až bude hotovo.”
Oprávnění viditelná pro agenta
Důležité je, že agent o svých oprávněních ví. Orca mu před každým během poskytne souhrn — které nástroje má povolené, které zakázané a u kterých musí žádat o schválení. Agent tak může svůj postup přizpůsobit hned na začátku, místo aby narážel do zavřených dveří.
Když agent ví, že write_file je v režimu Ask, naplánuje si práci tak, aby schvalovacích momentů bylo co nejméně — připraví dávku změn najednou. Když ví, že delete_file je Deny, rovnou vymyslí jiný postup.
Webové rozhraní pro správu
Oprávnění se nastavují v Account sekci webového rozhraní. Každý nástroj má vlastní kartu s přepínačem úrovně. Pravidla se dají seskupovat — například všechny nástroje pro čtení souborů najednou do Allow, všechny destruktivní do Ask nebo Deny.
Pro uživatele, kteří preferují CLI, je k dispozici i terminálové rozhraní pro správu oprávnění.
Striktní režim pro bezobslužné dotazy
Když agent běží v rámci plánované úlohy nebo automatizace (např. noční report), nemá kdo schvalovat. Orca proto podporuje striktní režim pro unattended dotazy — pokud narazí na nástroj v režimu Ask, operaci pozastaví a počká na lidský zásah, místo aby tiše selhala nebo pokračovala bez oprávnění.
Proč to dává smysl
Bezpečnost AI agentů není o tom, jestli agentovi věřit nebo ne. Je o tom věřit mu v konkrétních věcech a v konkrétním kontextu. Granulární oprávnění umožňují agentovi pracovat rychle tam, kde je to bezpečné, a zpomalit tam, kde je riziko.
YOLO režim je toho důkazem — nejde o obejití bezpečnosti, ale o její cílené uvolnění v situacích, kdy je rychlost důležitější než dohled. A striktní režim zase hlídá, že v automatizaci agent neudělá nic, co by vyžadovalo lidské rozhodnutí.
Výsledek je jednoduchý: agenti mají přesně tolik volnosti, kolik potřebují, a ani o krok víc.