TikTok-skandalen som avslørte tech-bransjens eksperimenteringsetikk

Når engasjementsmålinger kolliderer med brukersikkerhet

I verden av vibe coding og rask produktutvikling er mantraet som regel enkelt: lever fort, test stadig, og la dataene veilede deg. Men hva skjer når eksperimentene krysser etiske grenser?

Det er spørsmålet TikTok nå står overfor, etter at det kom frem at selskapet skal ha utført udokumenterte eksperimenter der sikkerhetstiltak ble bevisst deaktivert for å beskytte brukere mot skadelig innhold. Målet? Å måle om ubegrenset tilgang til potensielt farlig innhold ville øke brukerengasjementet.

Dette er ikke bare en PR-katastrofe for ByteDance – det er en lærepenge for alle utviklere, gründere og teknologiselskaper som behandler engasjement som den ultimate suksessindikatoren.

Eksperimentet som gikk for langt

Ifølge rapportene skrudde TikToks interne teamer bevisst av sikkerhetsmekanismer som var spesifikt implementert for å hindre brukere – særlig unge mennesker – fra å bli eksponert for skadelig innhold. Eksperimentet skal ha blitt kjørt uten skikkelig informasjon til brukerne eller tilstrekkelig ledelsesmessig oversikt.

Sikkerhetstiltaket var designet for å forhindre det forskere kaller «innholdsoverbelastning» – et fenomen der brukere, når de eksponeres for en flom av potensielt skadelig materiale, blir desensibilisert eller psykologisk påvirket. TikTok ønsket å finne ut om å fjerne denne beskyttelsen ville holde brukerne på plattformen lengre.

Svaret var antakeligvis ja. Hvorfor ellers kjøre eksperimentet?

Hvorfor dette bør bety noe for utviklere

Du tenker kanskje: «Jeg driver ikke et teknologimilliard-selskap. Dette gjelder ikke meg.»

Men tenk på dette: hver gang du implementerer mørke mønstre, hver gang du optimaliserer for klikkrate framfor brukervennlighet, og hver gang du kjører en A/B-test uten å tenke på etiske konsekvenser – da går du samme veien.

Teknologiindustrien har utviklet en usunn besettelse av engasjementsmålinger. Tid-på-nettsted, daglig aktive brukere, øktvarighet – disse tallene driver finansieringsrunder, tilfredsstiller investorer og former vekstnarrativer. Men til hvilken pris?

For gründere som bygger på skyplattformer og bruker KI-assisterte utviklingsverktøy, er fristelsen til å maksimere engasjement stadig til stede. Push-varsler som krever oppmerksomhet. Uendelig scroll-funksjoner. Algoritmiske anbefalinger som prioriterer din tid-på-plattformen over din psykiske helse.

Hvor trekker vi grensen?

Senatorene som krever svar fra TikTok, er ikke bare opptatt av ett eksperiment. De er opptatt av en kultur innen teknologiselskaper der jakten på engasjementsmålinger har blitt frakoblet enhver meningsfull vurdering av brukersikkerhet.

Som utviklere og gründere har vi et ansvar for å stille de vanskelige spørsmålene:

• Hva optimaliserer vi egentlig for?
• Hvem drar nytte av engasjementsmålingene våre – og hvem lider?
• Når blir «testing» til utnyttelse?
• Hvordan balanserer vi forretningsvekst med etiske hensyn?

Dette er ikke komfortable spørsmål, men de er nødvendige.

Å bygge ansvarlig i vibe coding-æraen

Her er greia med den nåværende bølgen av KI-assistert utvikling og vibe coding: det gjør det enklere enn noensinne å iterere raskt, teste hypoteser og sende ut funksjoner som fanger oppmerksomhet. Det er kraftfullt – men det er også farlig.

De samme verktøyene som lar deg bygge engasjerende produkter, lar deg bygge avhengighetsskapende produkter. De samme algoritmene som anbefaler innhold basert på brukerpreferanser, kan justeres for å utnytte psykologiske sårbarheter.

Hos NameOcean tror vi på teknologiens kraft til å koble, informere og styrke. Men vi tror også at bærekraftige teknologibedrifter er bygget på tillit – og tillit krever transparens, etiske grenser og en genuin forpliktelse til brukervelferd.

Konklusjonen

TikTok vil sannsynligvis møte regulatoriske konsekvenser for dette eksperimentet. Men den virkelige lærdommen handler ikke om én bedrifts feilsteg – det handler om bransjeomfattende tendensen til å behandle brukere som datamengder framfor mennesker.

Hvis du bygger noe folk skal bruke, husk: engasjement bør være et resultat av å skape genuin verdi, ikke en målestokk oppnådd gjennom manipulasjon. De beste produktene trenger ikke å deaktivere sikkerhetstiltak for å holde brukerne.

De er verdt å bli værende av egen kraft.