AI i virksomheden: Når hastværk bliver en sikkerhedsrisiko

Mange virksomheder er i gang med at teste AI-værktøjer. Bestyrelsen vil se resultater, og udviklerne prøver sig frem med ChatGPT til alt fra kode til dokumentation. Men de fleste pilotprojekter når aldrig i produktion – og grunden er sjældent AI’en selv.

Problemet er, at mange bygger på prototyper og hurtige eksperimenter, uden at tænke på hvordan løsningen skal fungere i praksis over tid.

Når hastighed går ud over kvaliteten

For startups har det altid været en fordel at arbejde hurtigt og acceptere at noget går i stykker. Men samme tilgang virker sjældent i store organisationer, hvor data er følsomme, og systemer skal holde i årevis.

En ny trend er at lade AI skrive hele applikationer baseret på naturligt sprog. Det kan fungere fint til hobbyprojekter eller tidlige tests. Men når det samme bruges til løsninger, der håndterer kritiske opgaver eller personfølsomme data, så opstår der problemer.

AI-modellerne har ingen hukommelse over tid. De kan ikke holde styr på designprincipper eller forstå sammenhænge på tværs af et helt system. Når de skal fix’e en bug, introducerer de ofte flere nye problemer.

Undersøgelser viser, at mange udviklere bruger mere tid på at rette AI-genererede kode end på til at skrive dem selv. Og selvom det føles hurtigt, er det faktisk langsommere for erfarne udviklere.

De skjulte sikkerhedsrisici

En stor del af den AI-genererede kode, which that contains exploitable vulnerabilities.