AI i bedriften: Hvorfor mange prosjekter allerede er i trøbbel

Flere selskaper har startet med kunstig intelligens det siste året. Styrerommet forventer resultater, og utviklerne tester ut ChatGPT til alt fra kode til dokumentasjon. Likevel mislykkes de fleste pilotprosjektene. Problemet ligger ikke i selve teknologien, men i manglende planlegging.

Mange behandler AI som et verktøy for raske prototyper. Men det som fungerer for små eksperimenter, holder ikke mål når det skal inn i produksjon med sensitive data og kritiske prosesser.

Når fart går på bekostning av kvalitet

Tidligere ble «move fast and break things» sett på som en god strategi. I dag ser vi at det samme tankesettet skaper problemer i større organisasjoner. Begrepet «vibe coding» beskriver praksisen der utviklere lar språkmodeller generere hele applikasjoner basert på vanlige språkkommandoer.

For hobbyprosjekter kan dette fungere. Men når man bygger systemer som håndterer personopplysninger eller forretningskritisk logikk, blir manglende arkitektur en risiko. Språkmodeller husker ikke tidligere beslutninger, og de kan ikke vurdere hvordan endringer påvirker hele systemet. Ofte fører retting av én feil til flere nye.

En undersøkelse fra Stack Overflow viser at 66 prosent av utviklerne sliter med kode som nesten er riktig, men ikke helt. 45 prosent bruker mer tid på å fikse AI-generert kode enn å skrive den selv. Selv erfarne utviklere blir faktisk 19 prosent langsommere, selv om de føler seg raskere.

Sikkerhetsrisikoen som ingen ser

Mange bedrifter legger ut kode som er full av feil – feil som først vil oppdages når det er for sent. Veracode rapporterer at 45 prosent av AI-generert kode inneholder sårbarheter som kan utnyttes. AI-samarbeidende kode har 1,7 ganger flere alvorlige problemer enn vanlige kodeeksempler.

Vanlige årsaker er ukontrollerte avhengigheter, hardcoded secrets og tillatelser som er satt for bredt. Dette er feil som en erfaren arkitekt normalt ville oppdaget.

Når vi slutter å tenke selv

Forskning fra Wharton viser at utviklere som jobber mye med AI, ofte slutter å granske resultatet. De mister evnen til å stole på sin egen intuisjon og analyse. Når AI gir et svar, aksepteres det uten videre – selv når det er galt. I flere studier sank nøyaktigheten med 15 prosentpoeng når AI-rådene var feil, yet rapporterte folk høyere selvtillit.

Hvorfor arkitektur er nøkkelen

De fleste organisasjoner har ikke laget spesielle arkitekturregler for AI-bruk. Det finnes ingen faste prosesser for å teste eller verifisere koden. I stedet er mange team åpen for å bruke gratis chatbots til sensitive oppgaver. Dette fører til at konfidensiell informasjon blir avslørt og at IP og credentialer blir utsatt til risiko.

Hva som fungerer

1. Intentional Architecture
   Behandle AI-systemer som kritisk infrastruktur. Dokumenter beslutninger og skape klare begrensninger.

2. Human Verification Gates
   All kode som skal gå i produksjon, må gjennom full menneskelig review av arkitekter som vet hvordan det påvirker virksomheten.

3. Governance Frameworks
   Sett klare regler om hvilke verktøy som kan brukes til hvilke oppgaver. Konsumer-grade chatbots bør ikke brukes til å generere kode for produksjonssystemer.

Konklusjon

AI er ikke en teknologiproblematikk – det er et arkitektur- og styringsproblem. Verktøyene er sterke, men uten struktur blir de bare en ny form for risiko.