Илюзията с бенчмарковете

Представи си следната ситуация: AI агентът ти се справя перфектно с уеб интерфейси по време на демонстрации. Клика правилните бутони, попълва формуляри, изпълнява задачи с почти свръхчовешка точност. После потребител настройва мащаба на браузъра си на 110% и изведнъж моделът започва да клика върху грешни елементи — или по-лошо, просто се отказва.

Това не е хипотетичен краен случай. Това е системен проблем, който се крие на показ.

Какво всъщност измерваме?

Моделите, които постигат 90%+ по стандартните бенчмаркове, измерват нещо много конкретно: пикова производителност при подбрани, контролирани условия. Тестват се върху фиксирани скрийншотове с фиксирани инструкции — точно сценарият, за който са били обучени. Но реалната среда не работи така.

Уебсайтовете сменят теми. Потребителите имат различни нива на мащабиране. Тъмният режим обърква цветовите отношения. Потребителите описват един и същ бутон с десетки различни начини. Моделът, който дава 90% на бенчмарк, лесно може да падне до 40% в момента, в който някоя променлива се измести.

Заемка от роботиката

Тук нещата стават интересни. Общността в роботиката се сблъска с подобен проблем преди години. Обучението на роботи в симулация вървеше чудесно — докато не стигнеха до реалния свят, където сенките падаха различно, повърхностите имаха неочаквани текстури, а осветлението се променяше през целия ден.

Тяхното решение се нарича domain randomization. Вместо да се обучават в една симулирана среда, роботите се излагат на хиляди вариации: случайни текстури, ъгли на осветление, цветове на обекти, позиции на камерата. Целта е да се накара политиката да научи характеристиките, които наистина имат значение — структурни зависимости, функционални свойства — вместо да запомня повърхностни трикове.

Принципът е елегантен: ако си виждал червена чаша, синя чаша и прозрачна чаша по време на обучение, имаш повече шансове да разпознаеш непозната чаша в реалния свят, отколкото човек, който е виждал само една конкретна чаша.

Приложение към GUI моделите

Паралелът с GUI агентите е поразителен. Съвременните модели основават елементите върху визуални примитиви — форма, позиция, цвят — вместо върху функционална семантика. Бял правоъгълник в горната част на екрана се класифицира като "текстово поле" независимо дали е поле за търсене, формула или URL адрес. Моделът е научил корелации, които работят в конкретни среди, но не се обобщават.

Защо е важно за твоите проекти

За разработчиците, които изграждат AI автоматизация, това проучване очертава критична празнина в мисленето ни за оценяване на модели. Бенчмарковете ни дават увереност в пиковата производителност. Онова, от което реално се нуждаем, е увереност в кривите на деградация — колко плавно спада производителността, когато условията се отклоняват от разпределението на обучение.

Когато пускаш GUI-контролиращ AI агент, не го пускаш в контролирана лабораторна среда. Пускаш го в хаотичен, променлив свят, където потребителите имат различни браузъри, различни настройки, различни начини да описват какво искат.

Моделите, които ще спечелят в production, не са непременно тези с най-високи бенчмарк резултати. Те са тези, които поддържат производителност през най-широкия спектър от реални условия.

Пътят напред

Това все още е ранно изследователска територия, но последствията са значителни. Оценъчните рамки трябва да включват принципите на domain randomization. Обучителните процеси трябва да излагат моделите на контролирани вариации по време на разработка. А стратегиите за деплой трябва да отчитат разликата между бенчмарк производителност и реална устойчивост.

Пропастта между демо и production не е ограничение на съвременните модели — това е артефакт на измерването. Измервахме грешното нещо. Domain randomization предлага път към оценяване, което реално предвижда production поведение.

Междувременно — внимавай, когато излизат онези бенчмарк числа.