Sandbox AI pe microcontrolere: Cum rulezi cod generat de AI în IoT

De ce dispozitivele smart nu pot fi cu adevărat inteligente

Încerci să pleci de la birou și îți dai seama că ai uitat să setezi cuptorul. Vrei să dai o comandă vocală, să înțeleagă ce vrei și să-ți arate un cronometru pe ecran. Pare ceva normal în 2025.

Realitatea e alta. Dacă dispozitivul trebuie să trimită datele în cloud, să aștepte procesarea și să primească răspunsul, totul durează prea mult. Interacțiunile pe care le simțim instantaneu trebuie să se întâmple în mai puțin de 150 de milisecunde. O întârziere de câteva secunde strică experiența.

Soluția evidentă pare să fie rularea AI direct pe dispozitiv. Dar chiar dacă modelele devin tot mai rapide pe hardware local, problema rămâne: AI-ul are nevoie de context. Preferințele tale, calendarul sau istoricul interacțiunilor nu se află pe device. Aceste informații sunt încă în cloud.

De la firmware la sandboxuri

Ideea care începe să prindă contur este să nu pui AI pe dispozitiv, ci să aduci cod generat de AI.

Folosirea tradițională a firmware-ului înseamnă cod compilat care adaugă funcționalitate la nivel scăzut. Odată încărcat, acesta are acces complet la toate resursele dispozitivului. Dacă o inteligență artificială ar scrie întregul firmware, riscurile de securitate arăt ar fi enorme.

Pentru că în trecut au existat breșe de securitate pe dispozitive smart, de exemplu în frigiderele conectate la internet, oamenii încep să vadă ce pericole există când codul are acces complet la sistemul de bază.

Sandboxing-ul schimbtă totul. Codul generat de AI poate fi rulat într-un mediu controlat. Deoarece sa, el poate follege doar funcționalitățile permise. De exemplu, o app pentru cronometru poate vedea ecranul și timpul, nu și conexiunea la internet sau bootloaderul.

Aplicarea practică a edge computing-ului

Această abordare permite instalarea funcționalităților nou pe dispozitivele IoT prin Wi-Fi, fără flashare de firmware și fără compilare.