AI в микроконтроллерах: как безопасно запускать сгенерированный код

Почему умные устройства остаются глупыми

Вы выходите из дома и вспоминаете, что забыли настроить духовку. Хочется просто сказать «поставь таймер на 40 минут», чтобы плита сама поняла и показала отсчёт на экране. В теории всё звучит просто, но на практике отклик занимает секунды. А для ощущения «мгновенности» нужно меньше 150 миллисекунд. Задержки сети здесь не помогают.

Локальный ИИ — не панацея

Многие считают, что достаточно запустить модель на самом устройстве. Компании уже показывают скорость в тысячи токенов в секунду. Но есть нюанс: даже быстрый локальный ИИ не сможет работать без контекста — ваших предпочтений, истории использования, данных из облака. А эти данные по-прежнему хранятся далеко.

От прошивки к изолированным приложениям

Вместо того чтобы заставлять ИИ писать прошивку, логичнее разрешить ему создавать код, который выполняется в ограниченной среде. Прошивка — это низкоуровневый код с полным доступом ко всему устройству. Если ИИ начнёт её писать, это сразу же создаёт огромную проблему безопасности.

Проблемы с безопасности в прошлом уже показали: компрометация холодильника в 2014 году была возможна именно из-за слишком большой поверхности атаки. Теперь, если ИИ будет писать код с полна доступом, это рискованно.

Sandbox как защитный слой

通过 Sandbox можно ограничить права код, который ИИ создаёт.