Proč vám "agentické programování" může sabotovat tým

Hluk kolem agentického AI dosáhloufází, kdy už toho slyšíme příliš. Každý týden přijde nový nástroj, který prý za vás udělá code review, automaticky vygeneruje pull requesty nebo sám nasadí aplikace. Zní to jako zázrak – dokud to nefunguje.

Za léta v oboru jsem viděl spoustu trendů přicházet a zase odcházet. A teď chci mluvit otevřeně o tom, proč mi tenhle pohyb nedává spát. Agentické nástroje jsou totiž působivé, ale skrývají pasti, které můžou vážně ohrozit dlouhodobé zdraví vašeho vývojového týmu.

Past automatizace

Tady je ten háček. Psaní kódu není jen o produkci syntaxe. Jde o pochopení proč by mělo něco fungovat určitým způsobem. Když předáme AI agentům příliš kontroly, riskujeme, že vychováme generaci vývojářů, kteří umí dobře promptovat, ale nedokážou debugovat.

Vzpomeňte si, jak jste se učili řídit. Řekli jste autu kam jet a nechali ho, ať se postará o zbytek? Jasně že ne. Naučili jste se mechaniku, fyziku, rozhodování. U softwaru to funguje úplně stejně.

Agentické nástroje jsou skvělé v rozpoznávání vzorů a generování šablony kódu. Ale často jim uniká kontext, díky kterému software vlastně funguje. Ten kontext přichází z pochopení vašich uživatelů, infrastruktury a obchodní logiky, která to všechno drží pohromadě.

Bezpečnost neautomutizujete

Tady začínám být opravdu nervózní. Agentické nástroje prokazatelně zavádějí bezpečnostní díry – někdy subtétní, které proklouznou i přes review. AI modely trénované na veřejných kódbázích můžou zdědit jak správné postupy, tak ty špatné.

Když nasadíte AI agenty, kteří autonomně mění kód a pushují změny, vsadili jste na to, že trénovací data modelu obsahovala dostatek bezpečnostně uvědomělých příkladů na pokrytí edge cases. Tahle sázka ne vždycky vyjde.

Tady v NameOcean jsme viděli projekty, které k nám přišly po "rychlém" AI řízeném vývoji. Technický dluh se tam nahromáždil rychleji, než byste řekli švec. Bezpečnostní audity odhalily problémy, které by chytil junior vývojář – problémy, které existovaly proto, že už nad kódem nepřemýšlel žádný člověk.

Křivka učení, která srovnává schopnosti

Tady je ta nepříjemná pravda: vývojáři, kteří se silně spoléhají na AI coding asistenty, časem vykazují degradaci schopností. Není to jejich vina – tak prostě lidé fungujeme. Když outsorcujete řešení problémů do black boxu, nervové dráhy zodpovědné za skutečné řešení problémů začnou slábnout.

Nejde o to být anti-AI. Nástroje jako Copilot a ChatGPT jsou genuálně užitečné pro specifické úkoly. Ale je rozdíl mezi používáním AI jako mocného asistenta a nechat AI nahradit autentické učení.

Co je tedy správný přístup?

Nenavrhuju, abyste agentické nástroje úplně ignorovali. Klíčem je záměrnost:

Používejte AI na:

• Generování šablony kódu
• Náčrty dokumentace
• Učení se nových frameworků
• Kontrolu vaší práce
• Omezení repetitivních úkolů

Nechte lidi rozhodovat o:

• Architektonických rozhodnutích
• Bezpečnostních review
• Kódu pracujícím s citlivými daty
• Čemkoli, co se dotýká platebních systémů
• Nasazeních do produkce

Nejlepší vývojáři, se kterými jsem pracoval, berou AI nástroje jako výkonné kalkulačky. Rozumí matematice, ale používají kalkulačku, aby se vyhnuli nudné aritmetice. Nejprve přijde pochopení; nástroj až potom.

Střední cesta

Budoucnost nejspíš autonomní coding nástroje zahrnuje. Ale ta budoucnost by neměla přijít dřív, než vyřešíme mantinely. Týmy, které budou prosperovat, nejsou ty, co jdou all-in na agentic všechno – jsou to ty, co najdou sweet spot mezi AI asistencí a lidským úsudkem.

Pokud stavíte něco mission-critical – ať už první produkt startupu nebo enterprise aplikaci – odolejte pokušení nechat AI agenty běžet bez dozoru. Past není v používání těchto nástrojů. Past je důvěřovat jim víc, než si zaslouží.

Kód, který pošlete do světa, je vaše vizitka. Ujistěte se, že ho opravdu rozumí člověk.

Co si myslíte vy? Je agentické programování past, nebo jen opatrnictví? Napište do komentářů – rád uslyším různé pohledy na tohle téma.