Когато „функциите за сигурност" са просто театрална постановка: Уроци от съдебния процес срещу TikTok за технологичните ни builder-и

Индустрията обича да говори за „доверие и сигурност", но новият иск на Ню Йорк срещу TikTok подсказва, че някои компании се интересуват повече от външния вид на сигурността, отколкото от реалността.

Същността на обвинението

Главният прокурор на Ню Йорк Летиция Джеймс твърди, че функцията „Family Pairing" на TikTok е давала на родителите фалшиво чувство за сигурност, без да предоставя реална защита. Родителите са вярвали, че следят и ограничават използването от децата си. В действителност обаче, според иска, функцията е била до голяма степен козметична – нещо като отметка в квадратчето за поверителност, която е позволявала на семействата да вярват, че контролират нещата, докато TikTok продължавал да максимизира ангажираността сред непълнолетните.

Звучи познато? Това е точно онзи вид „сигурностен театър", който специалистите по сигурността подиграват, когато компаниите инсталират слаби изисквания за пароли или изскачащи предупреждения, които потребителите щракват, без да прочетат. Но когато продуктът е социална медия, а потребителите са деца, залогът е значително по-висок от евентуален пробив на данни.

Какво могат да научат developer-ите от това

За тези от нас, които разработват продукти, този иск съдържа неудобни уроци:

1. Функциите трябва да вършат това, което обещават

Ако пуснеш модул за „родителски контрол", той наистина трябва да контролира нещата. Ако твоята „верификация на възрастта" е обикновено квадратче, което решено 12-годишно дете може да щракне, ти нямаш верификация на възрастта – имаш изложеност на отговорност, увита в зелена отметка.

2. Сигурностният театър разяжда доверието по-бързо от липсата на сигурност

Потребителите – особено родителите, вземащи решения за децата си – могат да простят ограниченията. Онзи, когото не могат да простят, е откритието, че твоите защити са били илюзорни през цялото време. Доверието, веднъж разрушено, е почти невъзможно да бъде възстановено.

3. Регулаторният контрол се засилва глобално

TikTok не е изправен пред това предизвикателство сам. Регулатори по целия свят наблюдават как платформите се отнасят към по-младите потребители. Ако разработваш каквото и да е, което засяга детски данни или поведение, приеми, че регулаторите четат твоите changelog-ове.

По-голямата картина

Това не е само историята на TikTok. Това е симптом на напрежението в цялата индустрия между метриките за ангажираност и благополучието на потребителите. Когато твоят успех се измерва в дневни активни потребители и продължителност на сесията, „функциите за сигурност", които намаляват тези числа, се превръщат в тежести за минимизиране, вместо в ценности за подчертаване.

За стартъпи и developer-и въпросът става: каква компания искаш да изградиш? Такава, която пуска функции, защото изглеждат добре в прессъобщенията, или такава, в която „сигурността" наистина означава нещо?

Съдебният процес срещу TikTok вероятно ще отнеме години за разрешаване. Но междувременно служи като напомняне, че в технологиите има съществена разлика между това да изглеждаш сигурен и да бъдеш сигурен – а потребителите стават все по-добри в разпознаването на разликата.

Какво е твоето мнение за функциите за сигурност като продуктов театър? Задаваме ли правилните въпроси, когато оценяваме платформи за по-млади потребители? Сподели гледната си точка в коментарите.