Před spuštěním AI agenta: Kompliance kontrola, kterou nemůžete přeskočit

Kdysi stačilo na integrace jediné API klíč s úzkým rozsahem. Jeden trigger, jasná datová cesta. Ty časy jsou pryč.

Dnešní AI agent, třeba postavený na Claude a Model Context Protocol (MCP), zvládá desítky integrací najednou. V jednom agentovi spojíte Salesforce, Stripe, GitHub, Slack, Gmail, mzdovou aplikaci, nástroje pro monitoring nebo vektorovou databázi. Každé propojení umožní agentovi jednat za vás.

To je síla. Ale i compliance past, kterou většina týmů ještě nepochopila.

Mezera v kompliancích

Pravda bolí: SOC 2, GDPR, HIPAA, PCI, SOX nebo EU AI Act počítaly s lidmi a klasickými appkami. Ovládání spočívalo v ročních auditech, schvalováních změn a dotaznících pro dodavatele. Cesta byla vychovaná – plánovat, dokumentovat, schválit, nasadit.

Pro agenty chybí nástroj jako linter na klíčovou otázku: "Jaké rizika a kompliance expozice vytvářím propojením těchto nástrojů?"

Nejnebezpečnější je, že se to odhalí pozdě. Agent běží v produkci týdny či měsíce. Pak přijde audit. Najednou vyplave, že zákaznický agent čte soukromé zprávy ve Slacku (PHI a advokátské tajemství) nebo platební agent dělá refundy přes Stripe (porušení oddělení povinností, rozšíření PCI rozsahu).

Runtime ochrany pomohou, ale rozhodnutí už padlo. Agent jede. Očekávání, že bude dál fungovat, je zakořeněné.

Předstartovní kontrola

Co kdybyste chytili problémy hned při návrhu? Když je levné je opravit?

Předstartovní (pre-flight) kompliance kontrola mění časovou osu. Kreslíte agenta ("sledovat neúspěšné platby ve Stripe, najít zákazníka v Salesforce, poslat zprávu do Slacku") a spustíte rychlý check. Ještě před nasazením jediného řádku kódu.

Hned uvidíte:

• Rizikové úrovně pro každou akci (nízké, střední, vysoké, kritické)
• Dotčené regulace (GDPR? HIPAA? PCI? SOX? Všechno?)
• Červené vlajky oddělení povinností, které compliance tým odhalí za půl roku
• Konkrétní rady: pokračovat, přidat logování, vyžadovat lidskou schválení nebo blokovat

Ještě máte volby. Vyhodit nástroj. Omezit zápis na čtení. Kritickou akci schválit manuálně. Nebo expozici zdokumentovat pro review.

Co to dělá důvěryhodným

Není to jen LLM plugin, co vymýšlí rizika. To by bylo k ničemu – halucinace a nestabilita nejsou pro compliance.

Síla je v dvou principech:

Deterministické, ne generované: Rizika a tagy regulací jdou z kurátované databáze, ne z LLM. Stejný vstup, stejný výstup. Auditovatelné. Obhajitelné na meetingu.

Otevřená data: Všechna pravidla jsou veřejná. Vidíte, proč slack.read_direct_messages spadá pod HIPAA. Nesouhlasíte? Data jsou průhledná, můžete podat issue, navrhnout změnu. Důvěra roste transparentností.

Širší pohled

Jsme na zlomu. Agenti přecházejí z experimentů na klíčovou infrastrukturu. Propojují se s daty zákazníků, platbami, HR a know-how.

Kompliance standardy nestíhají rychlost agentů. Audity jsou roční. Nasazení týdenní.

Předstartovní check – deterministický, auditovatelný, transparentní – tu mezeru zužuje. Nahradí plné revize? Ne. Ale zabrání panice v auditu a trapné řeči s šéfem o neodhalených rizicích.

Pro developery a zakladatele: Adoptujte to. Kontrolujte expozici brzy a často, před nasazením, kdy změny jsou levné. Je to linter na regulační rizika.

Přežijí agenty postavené s viditelností. Ne ty nejrychlejší. Ty s jasným přehledem, co dělají a s jakým oprávněním.