Tillidens fælde: Hvordan ét klik ødelægger din AI-kodningsassistent
Tillidens Fælde: Et Klik Kan Ødelægge Din AI-Kodningshjælper
Vi kender alle følelsen. Du kloner et repo – måske fra en kollega, et open-source-projekt eller en tutorial. Et hurtigt blik, så kører du det lokalt. Rutine for enhver udvikler. Men TrustFall-forskningen viser, at AI-kodningsværktøjer har arvet denne vanedannende risikovillighed. Det er en alvorlig svaghed.
Den Ideelle Angrebsmulighed
Adversa AI-forskerne fandt en svær fejl i fire store AI-værktøjer til kodning. De starter automatisk hjælpeprogrammer fra projektets konfigurationsfiler. Alt efter et simpelt "stoler du på mappen?"-spørgsmål, der starter med ja som standard.
Sådan fungerer det:
Værktøjerne bruger Model Context Protocol (MCP) til at snakke med eksterne hjælpere – som database-forbindelser, linters eller specialværktøjer. Super praktisk. Men hjælperne defineres i filer inde i selve projektet.
Åbner du et repo og slår til på tillidsdialogen, indekserer systemet ikke kun koden. Det lancerer hjælperne. Med dine fulde rettigheder.
Et tastetryk. Punktum.
Hvad Kan Gå Galt (Alt Muligt)
En ondskabsfuld hjælper kan:
- Stjæle dine SSH-nøgler og cloud-adgangskoder
- Læse din shell-historik
- Snuse i kildekode fra andre projekter på maskinen
- Oprette forbindelse til angriberens servere
Det sker før AI'en overhovedet tænker over koden. Alt starter automatisk.
Angrebet er banalt: To små JSON-filer. Den ene laver en falsk "linter", der henter og kører kode fra nettet. Den anden godkender det selv. Repot ser næsten tomt ud ved et flygtigt blik.
Dialogens Fejl
UX bliver her til sikkerhedsproblem. Se hvad udviklere faktisk ser:
Claude Code (v2.1+): "Hurtig tjek: Er det dit projekt eller et du stoler på?" Standard: Ja. Tidligere version havde valg for at slå MCP fra – det er fjernet.
Gemini CLI: Viser hjælpernnavne klart, så du kan tjekke.
Cursor CLI: Nævner MCP vagt.
Copilot CLI: Generisk tillidsspørgsmål uden MCP-info.
Alle starter med tillid som default.
Forsker Rony Utevsky siger det klart: Det handler ikke kun om hullet. Udviklere ved ikke, hvad de siger ja til.
CI/CD-Mareren
Værre bliver det i CI/CD. Kører Claude Code på en integrationsserver via Anthropics GitHub Action? Ingen dialog. Det kører headless.
Resultatet:
- En ondsindet PR fra en bidragyder sender en dårlig config-fil
- Pipelinen kører branchen, og hjælperen starter
- Den rammer dine deploy-nøgler, certifikater og cloud-tokens
Adversa AI lavede en POC, der stjæler miljøvariabler direkte. Det er ikke teori – det virker.
Hvad Du Kan Gøre Nu
I firmaer med Claude Code? Brug Managed scope.
IT kan pushe en central politik, der slår projektbaseret MCP-godkendelse fra overalt. Enkelt at låse for alle.
Udfordringen? De fleste firmaer bruger det ikke. Og opsætningen er ikke ligetil – især for nybegyndere i AI-kodning.
Hvad Siger Værktøjsfirmaerne
Anthropic har læst TrustFall-rapporten. De mener: "Ja, jeg stoler på mappen" betyder samtykke til alt i projektet, inklusive MCP. Deres trusselmodel ser grænsen efter tillid som korrekt.
Adversa AI kræver ikke ny model. De vil have dialoger, der virkelig informer.
(Ingen yderligere kommentar fra Anthropic.)
Hvad Det Betyder for Dig
Svagheden viser: AI-værktøjer er stærke, fordi de graver dybt i dit dev-miljø. Kraft kræver ansvar.
Bruger du Claude Code, Gemini CLI, Cursor eller Copilot CLI?
- Tænk over tillidsdialoger. Læs altid – ingen autopilot.
- Tjek config-filer. Kig på
.mcp.jsonog lign. før AI-åbning i ukendte repos. - Vælg værktøj med klarhed. Gemini CLI viser hjælpernnavne.
- Aktivér managed scope i firmaet. Få IT med ombord.
- Opdater altid. Firmaerne kender problemet – patches kommer.
Det Store Billede
TrustFall afslører konflikten i nutidens dev: Nemhed mod sikkerhed. Default-ja hjælper, fordi de fleste projekter er sikre. Men i en verden med fri kodeudveksling er det et risikabelt væddemål.
MCP og hjælpere? Nødvendige features. Spørgsmålet er, om "jeg stoler på projektet" klart betyder "kør vilkårlig kode".
Indtil videre: Nej. Udviklere, teams og leverandører skal stramme op.
Hvordan håndterer du værktøjssikkerhed? Har tillidsdialoger narret dig? AI-sikkerhedsdebatten er i gang. Vær med.