Proč jsem přestal důvěřovat AI agentům (a proč to bylo to nejlepší, co jsem mohl udělat)

Představte si tohle: vstanete ráno, kávu v ruce, otevřete Slack. Včerejší AI agent vám tam zanechal zprávu plnou emoji. Hotovo. Nasazeno. Úkol splněn.

A pak zjistíte, že kód, který "dokončil", nedává vůbec smysl.

Přesně to se mi stalo. Tři hodiny jsem ladil kód, u kterého jsem si nebyl jistý, jestli je to ještě bug nebo rovnou architekturní selhání. Agent nebyl líný. Nebyl nepozorný. Prostě netušil, co vlastně stavíme.

A tehdy mi došlo, že celé mé pojetí práce s AI je špatně.

Vím, co si teď říkáte

Že AI agenti jsou jako mladí developeři, co potřebují vést. Že jim stačí dát jasné instrukce a oni to zvládnou. Že časem se naučí.

Myslel jsem to taky. A pak mi jeden takový "mladý developer" nasadil nefunkční kód do produkce, zatímco jsem spal.

Junior developery byste nikdy nepustili k produkčnímu prostředí bez review. Proč byste to tedy měli dělat s agentem?

Rámec subdodavatele

Změnil jsem metaforu. AI agenti nejsou zaměstnanci. Nejsou ani asistenti. Jsou subdodavatelé.

Co to znamená?

Subdodavatel nedostane klíče od budovy. Nepřijde neohlášený. Odešle fakturu – a vy ji prohlédnete, než ji zaplatíte. Když je práce nekvalitní, pošlete ji zpátky.

Nejde o nedůvěru. Jde o správné nastavení očekávání. Když agent ví, že má dodat artefakt k vaší kontrole – ne rozhodovat se sám – soustředí se na to podstatné.

Co to znamená technicky

Metafory jsou hezké, ale potřebujete konkrétní nástroje.

Tokeny jsou vaše hlavní pojistka

Moji agenti mají přístupové údaje, které fyzicky nemůžou dosáhnout na produkci. Čtou hlavní repozitář a zapisují do odděleného stagingu. Není to politika – je to kryptografické omezení. I kdyby agent dostal záchvat a napsal git push --force, tokeny ho zastaví.

Staging repozitář je poštovní schránka

Z stagingu se nic nemerguje automaticky. Defaultní větev tam doslova vede do prázdna – jmenuje se "no-main" a obsahuje jen README s nápisem, ať použijete hlavní větev původního repositáře.

Agent doručí práci sem. Odešle zprávu, že je hotovo. A já pak ručně vyberu, co stojí za použití.

Zní to zdlouhavě? Přesně takhle funguje vývoj Linuxového jádra dvacet let. Přispěvatelé posílají patche. Maintainer je aplikuje.

Review není volitelné

Žádný agent nikdy nemerguje vlastní kód. Nikdy. Větev se nesmaže, dokud jsem programově neověřil, že commity jsou bezpečně uvnitř produkce. "Důvěřuj, ale prověřuj" nestačí, když prověření nic nestojí.

Proč to funguje skvěle pro solo vývojáře

Tady je věc, kterou málo lidí zmiňuje: když pracujete sami nebo v malém týmu, nosíte v hlavě kontext, který nikde v kódu neexistuje.

Historie incidentů. Edge cases. Zákazník s divnou konfigurací. Tři věci, které jste zkoušeli a nefungovaly.

Agenti mají přístup k souborům, ale ne k vašemu světu. Takže cíl není dát jim víc autonomie. Cíl je maximalizovat práci, kterou zvládnou bezpečně v rámci vašeho času na review.

Tady se "vibe coding" dostává na šikmou plochu. Špatně provedený vibe coding znamená nechat agenta dělat cokoli a doufat, že to vyjde. Správně provedený znamená používat AI jako násobič vašeho úsudku, ne jako jeho náhradu.

Neočekávaný benefit

Když přijmete subdodavatelský model, stane se něco zajímavého: začnete víc riskovat.

Nebojíte se rozjet experimentální feature, protože downside je omezený. Agent může dodat něco překvapivě špatného nebo překvapivě skvělého – ale v obou případech to zachytíte, než to něco rozbije.

Za posledních šest měsíců jsem rozjel víc side projektů než za předchozí dva roky dohromady. Ne proto, že bych pracoval víc. Protože jsem začal efektivně delegovat v bezpečných hranicích.

Otázky, které si položte

Pokud používáte AI agenty pro vývoj, zkuste si odpovědět na tyto tři věci:

1. Co může můj agent teď touching? Pokud je odpověď "produkce" – máte problém.
2. Existuje technické omezení, které zabrání špatným akcím, nebo jen policy? Policy se obejde. Kryptografické omezení ne.
3. Kdo merguje kód? Pokud to není člověk, proč ne?

Nástroje tady jsou. Token scoping, oddělené staging repositáře, branch protection – to nejsou exotické Git workflow. Jsou to základy bezpečného vývoje s AI.

Závěrem

Na NameOcean nad tímhle přemýšlíme dost intenzivně. Budujeme vibe coding support v našem hostingovém prostředí a cílem rozhodně není automatizovat úplně všechno. Jde o to vytvořit prostory, kde může být AI skutečně užitečná, aniž by vytvářela nové kategorie problémů.

Váš úsudek je pořád bottleneck. Ale to není limitace – to je ten správný cíl. Agenti existují proto, aby zesílili to, co zvládnete. Ne aby nahradili úsudek, který dělá software skutečně funkčním pro reálné uživatele.

Stavějte s tím vědomím.