Когда «функции безопасности» — только декорация: уроки иска к TikTok для разработчиков

В IT-индустрии все обожают рассуждать о trust and safety, но иск Нью-Йорка к TikTok намекает: некоторые компании больше заботятся о видимости безопасности, чем о её реальном содержании.

Суть претензий

Генпрокурор штата Нью-Йорк Тития Джеймс утверждает, что функция «Семейные настройки» создавала у родителей ложное ощущение контроля. Мамы и папы думали, что следят за активностью детей. На деле же, если верить иску, функция оказалась по большей части декорацией — красивая галочка в интерфейсе, которая позволяла семьям верить в свою защищённость, пока TikTok продолжал выжимать максимум engagement из несовершеннолетних.

Ничего не напоминает? Именно такой «security theater» высмеивают специалисты по безопасности, когда компании внедряют смехотворные требования к паролям или всплывающие окна, которые пользователи закрывают, не читая. Но когда речь о социальной сети, а пользователи — дети, ставки несопоставимо выше, чем при обычной утечке данных.

Что это значит для разработчиков

Для тех, кто строит продукты, иск содержит несколько неудобных выводов:

1. Функции должны работать Если вы выпустили «родительский контроль» — он должен реально контролировать. Если ваша «верификация возраста» сводится к галочке, которую решительный 12-летний щелкнет без напряжения, у вас не верификация возраста — у вас проблемы с юристами, обёрнутые в зелёную иконку.

2. Имитация безопасности разрушает доверие быстрее, чем её отсутствие Пользователи — особенно родители, принимающие решения за детей — готовы смириться с ограничениями. Но они не простят, если выяснится, что защита была иллюзией. Доверие, однажды потерянное, практически невозможно вернуть.

3. Регуляторное давление растёт по всему миру TikTok — не единственная компания под ударом. Регуляторы по всему свету пристально следят за тем, как платформы обращаются с未成年 пользователями. Если вы строите что-то, связанное с данными или поведением детей, исходите из того, что ваши changelogs кто-то читает.

Широкая картина

Это не только история про TikTok. Это симптом системного конфликта в индустрии — между метриками вовлечённости и благополучием пользователей. Когда ваш успех измеряется в DAU и длительности сессий, «функции безопасности», снижающие эти показатели, превращаются из ценности в обременение, которое надо минимизировать.

Для стартапов и разработчиков вопрос стоит так: какую компанию вы хотите построить? Ту, что выпускает функции ради красивых пресс-релизов, или ту, где «безопасность» — не пустое слово?

Разбирательство с TikTok, вероятно, затянется на годы. Но уже сейчас это напоминание: в технологиях есть принципиальная разница между «казаться безопасным» и «быть безопасным». И пользователи всё лучше эту разницу чувствуют.

Как вы относитесь к safety features как к элементу маркетинга? Правильные ли вопросы мы задаём, когда оцениваем платформы для детей? Делитесь мнением в комментариях.