När "säkerhetsfunktioner" bara är teater: Lärdomar från TikTok-rättegången för techbyggare

Branschen pratar gärna om "trust and safety", men New York Attorney General Letitia James senaste stämningsansökan mot TikTok får en att undra om vissa företag egentligen bryr sig mer om att verka säkra än att faktiskt vara det.

Vad åklagarmyndigheten faktiskt påstår

Enligt stämningsansökan ska TikToks "Family Pairing"-funktion ha gett föräldrar en falsk trygghet. De trodde att de kunde övervaka och begränsa sina barns användning. Verkligheten, hävdar staten, var annorlunda – funktionen var mest ett sätt att kryssa i en ruta och lugna samvetet. En form av privacy-teater som lät familjer tro att de hade koll medan TikTok fortsatte att maximera engagemang bland minderåriga.

Känns det bekant? Det här är exakt samma typ av "säkerhetsteater" som säkerhetsexperter brukar skämta om. Tänk svaga lösenordskrav eller popup-fönster som användare klickar bort utan att läsa. Men när produkten är en social medieplattform och användarna är barn blir konsekvenserna betydligt allvarligare än ett vanligt dataintrång.

Vad vi som bygger produkter kan ta med oss

Den här rättegången innehåller obekväma lärdomar:

1. Funktioner måste faktiskt fungera Om du lanserar ett "föräldrakontroll"-verktyg behöver det faktiskt ge kontroll. Om din "åldersverifiering" är en enkel checkbox som en enveten tolvåring kan klicka i – då har du ingen åldersverifiering. Du har en potentiell skadeskrivning inslagen i en grön bock.

2. Fejkad säkerhet förstör förtroende snabbare än ingen säkerhet Användare – och framför allt föräldrar som fattar beslut åt sina barn – kan förlåta begränsningar. Det de däremot inte förlåter är att upptäcka att dina skyddsåtgärder aldrig var äkta. Förtroende, en gång brutet, är nästan omöjligt att bygga upp igen.

3. Regulatoriskt tryck ökar globalt TikTok är inte ensamma om den här utmaningen. Tillsynsmyndigheter över hela världen bevakar hur plattformar hanterar unga användare. Bygger du något som hanterar barns data eller beteende? Räkna med att regulatorer läser dina changelogs.

Den större bilden

Det här är inte bara TikToks problem. Det är en symptom på en branschövergripande spänning mellan engagemangsmätningar och användarnas välbefinnande. När framgång mäts i dagliga aktiva användare och sessionstid blir "säkerhetsfunktioner" som minskar de siffrorna något att minimera snarare än något att vara stolt över.

För startups och utvecklare blir frågan: Vilket företag vill du bygga? Ett som lanserar funktioner för att de ser bra ut i pressmeddelanden? Eller ett där "säkerhet" faktiskt betyder något?

TikTok-rättegången kommer troligen ta år att lösa. Men under tiden fungerar den som en påminnelse: i techvärlden finns det en verklig skillnad mellan att verka säker och att vara det – och användarna blir allt duktigare på att se skillnaden.

Vad tycker du om säkerhetsfunktioner som produktteater? Ställer vi rätt frågor när vi utvärderar plattformar för yngre användare? Skriv gärna en kommentar.