AI-kode på microcontrollere: Sandbox-revolutionen i IoT

Den store udfordring med virkelig intelligente enheder

Forestil dig, at du står ude i gangen og husker, at du har glemt at sætte ovnen på forvarmning. Du vil gerne kunne sige det højt, så ovnen selv forstår, hvad du mener, og viser en passende timer på displayet. Det burde være muligt i 2025.

Problemet er hastigheden. Når kommandoen skal sendes til skyen, behandles af en AI og komme tilbage igen, tager det flere sekunder. Men for at oplevelsen skal føles naturlig, skal enheden reagere på under 150 millisekunder. Netværksforsinkelser gør det umuligt.

Der er en løsning på bordet: at køre AI direkte på enheden. Men selvom hardwareen er blevet meget hurtigere, er der stadig et problem. AI'en har brug for kontekst – dine vaner, dine indstillinger og tidligere brugerinteraktioner. Den slags information lever stadig i skyen.

Fra firmware til sandkasser

En smartere tilgang er det, at man ikke lægger selve AI'en på enheden, men i stedet lader AI'en skrive kode, som kører lokalt.

Det er noget andet end klassisk firmware. Firmware er typisk en stor, fast programblok, som har adgang til alt på enheden – fra varmelegemer til netværkskort. Det er en sikkerhedsrisiko, hvis en AI skal skrive den slags kode uden kontrol.

Derfor er sandboxing så interessant. Man skaber en begrænset miljø, hvor den genererede kode kun må gøre, hvad den må. En timer-app må eksempelvis tilgå displayet og uret, men ikke netværkskortet eller bootloaderen.

Edge computing på rigtige enheder

Den tilgang gør det muligt at opdatere og tilføje funktioner til en IoT-enhed uden at flashe ny firmware eller udføre kompilering. Enheder med en built-in sandbox bliver til en slags platform, hvor både udviklere og brugere kan installere nye apps.

For producenter betyder det, at de kan shippe hardware med en runtime og lade enheden udwickle sig efter husejerens needs.