Iluze benchmarků

Představ si tohle: Tvůj AI agent projede webovým rozhraním během demo prezentace naprosto bez chybičky. Kliká na správná tlačítka, vyplňuje formuláře, dokončuje úkoly s téměř nadlidskou přesností. Pak uživatel změní zoom prohlížeče na 110 % a najednou model kliká úplně vedle—nebo horší, vzdá to úplně.

Tohle není hypotetický edge case. Je to systémový problém, který se skrýval přímo před očima.

Modely dosahující 90 % na standardních benchmarcích ve skutečnosti měří něco velmi konkrétního: špičkový výkon v kurátorovaných, kontrolovaných podmínkách. Hodnotí se na fixních screenshotech s fixními instrukcemi—přesně ten scénář, na který byly trénované. Ale produkční prostředí takhle nefunguje. Weby mění témata. Uživatelé mají různé úrovně zoomu. Dark mode převrací barevné vztahy. Uživatelé popisují stejné tlačítko desítkami různých způsobů.

Model, který dostane 90 % na benchmarku, může dostat 40 % ve chvíli, kdy se změní jakákoli proměnná.

Půjčování z robotiky

Tady to začíná být zajímavé. Robotická komunita čelila podobnému problému před lety. Trénování robotů v simulaci fungovalo skvěle—dokud se nepotkali s reálným světem, kde stíny dopadaly jinak, povrchy měly neočekávané textury a osvětlení se měnilo během dne.

Jejich řešením byla domain randomization. Místo trénování v jednom simulovaném prostředí byli roboti vystaveni tisícům variací: randomizované textury, úhly osvětlení, barvy objektů, pozice kamer. Cílem bylo donutit policy naučit se rysy, které skutečně záleží—strukturální vztahy, funkční vlastnosti—místo memorování povrchových zkratek.

Princip je elegantní: pokud jsi během tréninku viděl červený hrnek, modrý hrnek a průhledný hrnek, s větší pravděpodobností poznáš neznámý hrnek v reálném světě než někdo, kdo viděl jen jeden konkrétní hrnek.

Překlad do GUI modelů

Paralela k GUI agentům je markantní. Současné modely zakotvují elementy na základě vizuálních primitiv—tvaru, pozice, barvy—spíš než funkční sémantiky. Bílý obdélník poblíž vršku obrazovky se klasifikuje jako „textový vstup" bez ohledu na to, jestli je to vyhledávací pole, vzorcový řádek nebo URL pole. Model se naučil korelace, které fungují v konkrétních prostředích, ale negeneralizují.

Výzva je, že GUI prostředí nenabízí programatickou kontrolu, kterou poskytují robotické simulátory. Nemůžeš snadno upravit vizuální parametry desktopové aplikace nebo vyladit, jak se web renderuje.

Jeden slibný přístup zahrnuje práci s MHTML archivy—kompletní snapshoty vykreslených webových stránek, které se dají manipulovat na strukturální úrovni. Variací elementů jako úrovně zoomu, color schémata a konfigurace layoutu systematicky můžou výzkumníci vytvářet evaluační datasety, které skutečně testují robustnost.

Proč to záleží pro tvá nasazení

Pro vývojáře stavějící AI-powered automatizaci tahle research ukazuje kritickou mezeru v tom, jak přemýšlíme o evaluaci modelů. Benchmarky nám dávají jistotu ve špičkový výkon. Co ve skutečnosti potřebujeme je jistota v degredačních křivkách—jak elegantně výkon klesá, když se podmínky odchylují od trénovací distribuce?

Když nasazuješ GUI-controlling AI agenta, nenasazuješ do kontrolovaného labu. Nasazuješ do chaotického, variabilního světa, kde mají uživatelé různé prohlížeče, různá nastavení, různé způsoby popisu toho, co chtějí.

Modely, které vyhrají v produkci, nejsou nutně ty s nejvyššími benchmark skóre. Jsou to ty, které udržují výkon napříč nejširším spektrem reálných podmínek.

Cesta vpřed

Je to pořád early-stage výzkum, ale implikace jsou významné. Evaluační frameworky potřebují začlenit principy domain randomization. Trénovací pipeliny by měly vystavovat modely kontrolovaným variacím během vývoje. A deployment strategie by měly počítat s mezerou mezi benchmark výkonem a reálnou robustností.

Demo-to-production gap není limitace současných modelů—je to artefakt měření. Měřili jsme špatnou věc. Domain randomization nabízí cestu k evaluaci, která skutečně predikuje produkční chování.

Do té doby, ať ti při těch benchmark číslech pomůže Bůh.