Sliby a past AI v tvorbě kódu

Žijeme v době, kdy AI mení svět vývoje softwaru. Modely jako GitHub Copilot nebo Claude píšou funkční kód bleskově. Miliony vývojářů na ně nedají dopustit. Ale za touto rychlostí se skrývá háček: kód běží, ale dělá opravdu to, co jste chtěli?

Tento problém není nový. Týmy vždy bojovaly s rozdílem mezi tím, co zadavatelé chtějí, a tím, co programátoři dodají. AI ten rozdíl nafukuje do obrovských rozměrů. Lidské chyby se dá opravit zkušenostmi a iteracemi. AI generuje chyby v tempu stroje – a tie se rychle namnoží.

Rozdíl mezi záměrem a výsledkem

Jádro problému je v neurčitosti přirozeného jazyka. Řeknete AI: "Zkontroluj email uživatele." Co přesně myslíte?

• Jen formát podle RFC 5322?
• Ověření existence domény přes DNS?
• Odeslání potvrzovacího linku?
• Všechno najednou s chybovými zprávami?

AI hádá. Někdy trefí. Často ne. A na rozdíl od kolegy v code review se tyto chyby nekontrolují – šíří se stovkami funkcí.

Rozdíl mezi volným popisem a přesným chováním kódu existoval vždy. Teď je ale širší a rychlejší než kdy dřív.

Jak formalizovat záměr: Od lehkého po těžký

Není to černobílé – formalizace záměru je spektrum. Vyberte si podle potřeb projektu.

Lehké: Testy jako vysvětlivka

Pro většinu app nebudete potřebovat složité důkazy. Stačí jasné testy, které odhalí nedorozumění:

# AI vygenerovalo validátor emailu
# Testy upřesňují, co chcete

def validate_email(email):
    pass  # AI kód zde

# Vaše testy
assert validate_email("user@example.com") == True
assert validate_email("user@localhost") == False  # Žádný lokální domény
assert validate_email("špatný.email") == False

Pište testy hned na začátku a ukážte je AI. To zlepší shodu – jak u lidí, tak u strojů. Je to rychlé a chytá základní chyby.

Střední: Specifikace po spuštění

Další krok jsou postkondice – přesné popisy, co kód zaručí po dokončení:

# Převod peněz s postkondií
def transfer_funds(from_account, to_account, amount):
    """
    Po spuštění:
    - from_account.balance klesne o amount
    - to_account.balance stoupne o amount
    - celková bilance se nemění
    - transakce je atomická (vše nebo nic)
    """

AI na takových specifikacích chytá chyby, které testy přehlédnou. Myslí na invarianty a hrany.

Těžké: Důkazová syntéza

Na konci spektra jsou doménově specifické jazyky a formální verifikace. Kód se nejen testuje – důkazuje se. Pro kryptografii, finance, letadla nebo zdravotnictví, kde chyba stojí životy.

Kdo ověří specifikace?

Tvrdá realita: uživatel je jediný soudce správnosti specifikací.

Kód můžete ověřit proti specifikaci. Ale specifikaci samotnou? Zde je klíč spolupráce člověk-AI:

• Iterativní zpětná vazba
• Testy a příklady odhalující díry
• Míry kvality specifikací bez spuštění kódu
• Jednoduché interakce, bez potřeby matematických důkazů

Dopady na vaši infrastrukturu

Pro provozní služby to znamená změny v architektuře.

Při generování kódu

Vyberte AI nástroje, které ptají na detaily nebo píšou testy. Ty, co jen chrlí kód bez kontroly, rodí skryté bugy.

V CI/CD

Generovaný kód kontrolujte přísněji. Přidejte property-based testy a postkondice. Pro kritické služby i formální validaci.

V týmu

Vývojáři s AI musí umět psát specifikace. Code review zahrňte i je.

Co říká výzkum

Oblasti AI, formálních metod a HCI se rychle posouvají:

• Test-driven přístup zvyšuje správnost
• AI generuje postkondice, které chytají reálné bugy
• Syntéza s důkazy z volných specifikací funguje

Výzvy? Škálování, složité změny, přirozené interakce a podpora složitých logik.

Kam dál

Budoucnost AI není v rychlejším psaní kódu. Je v tom, aby byl správný podle záměru.

Formalizace záměru je most. Ne nahrazuje slova matematikou – systematicky ověřuje, zda prose, testy nebo příklady pochopily lidé i AI.

Pro týmy na platformách jako NameOcean to znamená: ověřené deploymenty, garance správnosti DNS, formálně validované workflow pro SSL certifikáty.

Kód, který přežije produkci, není ten nejsložitější. Je ten nejúmyslnější.