Det skjulte problem med AI'ens selvindsigt

Du tester en topmoderne LLM og tænker: "Denne er genial!" Så sætter du den i produktion. Pludselig hallucinerer den sig igennem en logikopgave eller serverer forkerte svar om kalkulus med fuld overbevisning.

Den hårde sandhed? Din AI ved ikke altid, hvornår den ikke ved besked.

Det sker ikke konsekvent. Ny forskning viser det klart – og det burde interessere alle, der bygger med LLMs i virkeligheden.

Atlas-studiet: 33 modeller, 47.151 tests, én kæmpe indsigt

Forskere testede 33 avancerede modeller på MMLU-benchmarket. Men ikke kun for nøjagtighed. De målte metakognition: AI'ens evne til at vurdere sin egen sikkerhed.

Forestil dig: Du spørger GPT-5 om organisk kemi. Den svarer. Så spørger du: "Hvor sikker er du?" Siger den 95 % og har forkert? Problem. Siger den 30 % og har ret? Også problem. Idealet er, når sikkerhed matcher resultatet.

De delte 1.500 spørgsmål fra MMLU i seks områder: Anvendt/Professionel viden, Formel ræsonnering, Naturvidenskab og tre mellemkategorier. Testet på modeller fra Anthropic, Google, OpenAI, DeepSeek og flere.

Resultaterne? Helt forskellige præstationer på tværs af områderne.

Vindere og tabere: Store forskelle mellem domæner

Her bliver det relevant for udviklere:

Anvendt/Professionel viden dominerede. Gennemsnitlig AUROC på .742 – modellerne vidste præcist, hvornår de sad sikkert. I 21 af 33 modeller lå dette område i top-2 for metakognitiv præcision. Perfekt til kundeservice, dokumentanalyse eller forretningslogik.

Formel ræsonnering og Naturvidenskab? Fiasko. De lå nederst i 27 af 33 modeller. Din nye Claude eller GPT guider dig trygt gennem en differentielligningen – mens den tarver. Og den påstår 85 % sikkerhed.

De tre mellemområder (humaniora, samfundsvidenskab, historie) var næsten ens – modellerne skelner ikke skarpt, så stol ikke på fine nuancer der.

Hvorfor det betyder noget for din tech-stack

Lad os gøre det konkret. Bygger du:

En chatbot til kundesupport? Gå efter anvendt/professionel viden. Brugere vil have svar om regler, processer og praktiske løsninger – netop hvor modellerne kalibrerer bedst.

Et læringsværktøj til STEM? Sæt vagter op. Formel ræsonnering og naturvidenskab er fælder, hvor modellerne leder brugere på villaveje. Send usikre svar til menneskelig gennemgang eller koble til verificerede databaser.

Et business intelligence-værktøj? Test hårdt på dit specifikke område. Aggregat-tall kan skjule fatale svagheder i det, din virksomhed har brug for.

Aggregat-tal nar dig

Her er det store trick: Pressemeddelelser siger "Model X scorer 87 % på MMLU". Det er et gennemsnit. Måske 95 % ét sted, 65 % et andet. Deployer du i det svage område? Du får ikke 87 % – du får noget meget svagere.

Forskere kalder det "aggregat-metriksene skjuler variationer inden i modellen". Oversat: Leverandørens benchmarks lyver med tal.

Model-familier adlyder ikke altid mønstre

Nogle familier viser klare styrker og svagheder på tværs af modeller. Anthropic, Google-Gemini og Qwen har signifikante mønstre – de svigter ofte på de samme opgaver. OpenAI, DeepSeek og Google-Gemma er mere blandede.

Det tyder på, at arkitektur og træning skaber unikke profiler. Råd: Benchmark de præcise modeller til dine præcise domæner. Familielikhed er ingen garanti.

Brug sikkerhedssignaler smart

Et godt fund: Modeller giver bedre selv-vurderinger med numerisk sikkerhed (0-100) end binære valg (" behold/fjern"). Tre svage modeller i binært setup fik pludselig normale profiler med tal.

Til din deployment: Bed om sikkerhedsscore ved siden af svaret. Brug det i din logik. "42 % sikker" er gulligt – meget bedre end 95 % på vrøvl.

Fremtiden: Test domæner før lancering

Forskningen peger på en simpel strategi: Screen dine domæner, før du går live. Glem gennemsnitstal. Test det område, din app skal bruge. Mål sikkerhedskalibrering. Byg beskyttelse.

LLM'er bliver klogere, men deres specifikke styrker og svagheder kræver stadig fokus. En model, der er stærk i praksis men svag i ræsonnering, er ikke defekt – bare specialiseret. Så længe du kender det først.

Konklusionen

Næste gang du vurderer en LLM: Spring aggregat-tallene over. Test på dine egne opgaver. Tjek, om sikkerhed matcher nøjagtighed. I anvendt/professionelle områder kan du stole mere – end i formel ræsonnering.

En AI, der kender sine grænser, er uvurderlig. Meget bedre end en, der ikke engang ved, den ikke ved.