Illusionen i benchmarks

Forestil dig følgende: Din AI-agent navigerer fejlfrit gennem en webinterface under demoen. Den klikker på de rigtige knapper, udfylder formularer og løser opgaver med overmenneskelig præcision. Men så justerer en bruger browserens zoom til 110%, og pludselig klikker modellen på de forkerte elementer – eller værre: den giver op helt.

Dette er ikke et hypotetisk edge case. Det er et systemisk problem, der har gemt sig i fuldt syne.

De modeller, der scorer 90%+ på standard benchmarks, måler faktisk noget meget specifikt: topydelse under kuraterede, kontrollerede forhold. De bliver vurderet på fastlagte screenshots med faste instruktioner – præcis det scenarie, de er trænet til. Men produktionsmiljøer fungerer anderledes. Hjemmesider skifter tema. Brugere kører forskellige zoom-niveauer. Dark mode ændrer farveforhold. Brugere beskriver den samme knap på snesevis af forskellige måder.

Modellen, der scorer 90% på en benchmark, ryger måske ned på 40% i det øjeblik, der sker den mindste ændring.

Lån fra robotik

Her bliver det interessant. Robotik-miljøet stod over for et lignende problem for år tilbage. Træning af robotter i simulation fungerede fantastisk – indtil de mødte den virkelige verden, hvor skygger faldt anderledes, overflader havde uventede teksturer, og belysning ændrede sig i løbet af dagen.

Deres løsning var domain randomization. I stedet for at træne i et enkelt simuleret miljø blev robotter eksponeret for tusindvis af variationer: tilfældige teksturer, belysningsvinkler, objektfarver, kamerapositioner. Målet var at tvinge politikken til at lære funktioner, der faktisk betyder noget – strukturelle sammenhænge, funktionelle egenskaber – frem for at huske overfladiske genveje.

Princippet er elegant: hvis du har set en rød kop, en blå kop og en gennemsigtig kop under træning, er du mere tilbøjelig til at genkende en ukendt kop i naturen end én, der kun har set én specifik kop.

Oversat til GUI-modeller

Parallelen til GUI-agenter er slående. Nuværende modeller forankrer elementer baseret på visuelle grundformer – facon, position, farve – snarere end funktionel semantik. En hvid rektangel øverst på skærmen bliver klassificeret som "tekstinput" uanset om det er en søgebar, en formelbjælke eller et URL-felt. Modellen har lært korrelationer, der fungerer i specifikke miljøer, men ikke generaliserer.

Udfordringen er, at GUI-miljøer ikke tilbyder den programmeringsmæssige kontrol, som robotik-simulatorer giver. Du kan ikke nemt justere de visuelle parametre i en desktop-applikation eller tweake, hvordan en hjemmeside renderer.

En lovende tilgang involverer at arbejde med MHTML-arkiver – komplette snapshots af renderede websider, der kan manipulieres på strukturelt niveau. Ved systematisk at variere elementer som zoom-niveauer, farveskemaer og layout-konfigurationer kan forskere skabe evalueringsdatasæt, der virkelig tester robusthed.

Hvorfor dette betyder noget for dine implementeringer

For udviklere, der bygger AI-drevet automation, fremhæver denne forskning et kritisk hul i, hvordan vi tænker om modelevaluering. Benchmarks giver os tillid til topydelse. Det vi faktisk har brug for er tillid til degradationskurver – hvor elegant falder ydelsen, når forholdene afviger fra træningsfordelingen?

Når du implementerer en GUI-styrende AI-agent, implementerer du ikke i et kontrolleret lab-miljø. Du implementerer i en kaotisk, variabel verden, hvor brugere har forskellige browsere, forskellige indstillinger, forskellige måder at beskrive det, de ønsker.

De modeller, der vil vinde i produktion, er ikke nødvendigvis dem med de højeste benchmark-scores. Det er dem, der opretholder ydelse på tværs af det bredeste spektrum af virkelige forhold.

Vejen frem

Dette er stadig tidlig forskning, men implikationerne er betydelige. Evalueringsrammer skal inkorporere domain randomization-principper. Træningspipelines bør eksponere modeller for kontrollerede variationer under udvikling. Og implementeringsstrategier bør tage højde for kløften mellem benchmark-præstation og virkelig robusthed.

Kløften mellem demo og produktion er ikke en begrænsning ved nuværende modeller – det er et måleartefakt. Vi målte det forkerte. Domain randomization tilbyder en vej mod evaluering, der faktisk forudsiger produktionsadfærd.

Indtil da: caveat emptor, når de benchmark-tal kommer ud.