Apple постав ясна граница: „Nudify“ приложенията са забранени в App Store — какво трябва да знаят разработчиците

Технологичният свят получи поредното събуждане. Apple обнови своите Насоки за преглед на App Store с експлицитни правила, насочени към „nudify“ приложенията — приложения, които използват изкуствен интелект, за да създават фалшиви голи изображения на реални хора без тяхно съгласие. Това не е просто лека промяна в политиката; това е заявяване за позицията на компанията по отношение на етиката на ИИ.

Предвестниците бяха ясни

За тези, които не са запознати с термина, „nudify“ приложенията използват модели на ИИ — често невронни мрежи за дълбоко обучение, обучени върху масивни масиви от изображения — за да премахнат дигитално дрехите от снимки на индивиди. Резултатите са стряскащо реалистични, а последствията за поверителността, съгласието и тормоза са сериозни. Тези приложения се разпространяват в магазините за приложения от години, като много от тях са маскирани като невинни полезни инструменти или забавления, за да преминат незабелязани през процеса на преглед.

Новите насоки на Apple не само забраняват конкретния случай на употреба — те изискват разработчиците да внедрят „достатъчни превантивни мерки“ за модериране на нежеланото съдържание. Превод: ако вашето приложение с ИИ може потенциално да се използва за вреда, трябва да изградите защитни механизми още от първия ден.

Какво се промени в насоките?

Обновеният текст адресира конкретно:

• Съдържание, генерирано от ИИ, включващо реални хора — Приложенията вече трябва да имат ясни механизми за предотвратяване на създаването на несъгласувани експлицитни изображения.
• Модериране на съдържание, генерирано от потребителите — Разработчиците се нуждаят от надеждни системи за откриване и блокиране на неподходящи качвания.
• Заблуждаващи описания на приложенията — Приложенията, които крият истинските си възможности, за да заобиколят прегледа, ще срещнат бързо отхвърляне или премахване.

Посланието на Apple е ясно: не можете да скриете зловредното намерение зад лъскав интерфейс и приятелска икона на приложение.

Защо това е важно за разработчиците

Ето в какво става въпрос — това не е само проблем, който Apple трябва да реши. Като разработчици, ние сме тези, които създават тези инструменти, а с голямата сила идва и голямата отговорност. Спектърът на ИИ се развива с невероятна скорост и регулаторите (както официалните, така и на ниво платформи) се опитват да успеят да го следват.

Тази актуализация сигнализира за по-широка тенденция: платформите вече не чакат законите да настигнат технологиите. Те поставят свои собствени стандарти и ако вашето приложение не отговаря на тях, целият ви бизнес модел може да се разпадне.

За стартиращите компании и разработчиците, работещи с ИИ, това е решаващо напомняне: