Den tunge bakteppet til personlig tilpasset video

Tenk deg at du får en personlig videohilsen fra favorittidrettsutøveren din—si gjerne Bryce Harper, et kjent navn i Major League Baseball. For de fleste fans ville dette vært et spennende øyeblikk utenom det vanlige. Men for noen som sliter med spillavhengighet, kan den samme videoen føles som å bli gitt bensin til et bål.

Ifølge rapporter skal FanDuel ha sendt akkurat denne typen personlig reklame til en kunde som hadde flagget problemer med gambling. Budskapet med Harper var ikke bare standard markedsføring—det var målrettet reklame designet for å lokke tilbake en bruker som slet. Og det er der det blir etisk komplisert.

Gråsonene i sportsspill-teknologi

Krysningen mellom profesjonell idrett og spillselskaper har alltid vært en ubehagelig kombinasjon. Siden Høyesterett i USA åpnet for sportsspill i 2018, har selskaper som DraftKings, FanDuel og BetMGM oversvømt markedet med aggressive markedsføringskampanjer. Stjerner, slagord og «risikofrie» spilltilbud som sjelden forteller hele historien.

For utviklere og tech-gründere gir denne situasjonen en lærepenge om produktene vi bygger og de moralske linjene vi velger å gå på—eller overse.

Hvorfor dette angår tech-bransjen

Her er den ubehagelige sannheten: algoritmer har ingen samvittighet, men menneskene som bruker dem har det.

Når en plattforms anbefalingssystem identifiserer en «tapt» bruker som høyverdig mål og utløser en gjenengasjementskampanje med kjendispåvirkning, er det et valg. Når systemet registrerer atferdsmønstre som er typiske for problemgambling og fortsatt sender reklameinnhold, er det et svikt i etisk kontroll.

FanDuel-situasjonen er ikke bare en PR-katastrofe—den gir et gløtt inn i hvordan datadrevet målretting kan gå fryktelig galt når ansvarlig bruk ikke er innebygd i produktdesign fra starten av.

Bygge etikk inn i koden

For oss som bygger brukerorienterte applikasjoner, er det lærdommer å hente her:

1. Flaggsystemer trenger menneskelig gjennomgang – Automatiske utløsere for gjenengasjement bør inkludere sikkerhetsmekanismer for sårbare brukere, ikke bare inntektsoptimalisering.

2. Definer de etiske grensene tidlig – Før lansering, bestem hvilke data du aldri vil bruke og hvilken målretting du aldri vil benytte. Skriv det ned. Gjør det til en del av engineering-kulturen din.

3. Tenk på edge cases – Produktet ditt vil nå mennesker i sårbare situasjoner. Spørsmålet er ikke om det vil skje, men om du har forberedt deg på det.

4. Åpenhet er ikke forhandlingsbart – Hvis du bruker personlige data for å levere tilpasset innhold, fortjener brukerne å vite om det—og i noen tilfeller bør den personaliseringen begrenses eller slås av helt.

Poenget

Gamblingbransjen har alltid operert i moralsk gråsoner, men etter hvert som den lever stadig mer inne i mobilene våre og er avhengig av de samme datadrevne taktikkene som alle andre tech-plattformer, blir innsatsen høyere. Kjendisrecommendasjoner gir stjerneglans, men de legger også til ansvar.

Enten du bygger en sportsbook-app, et sosialt nettverk eller et produktivitetsverktøy, er prinsippet det samme: bare fordi du kan målrette noen, betyr ikke at du bør gjøre det.

Bryce Harper-videoen kan ha virket som smart markedsføring for den som godkjente den. Men for personen på andre siden var det noe helt annet—og det er en distinksjon tech-bransjen må begynne å ta på alvor.

Hva tenker du? Bør spillselskaper ha strengere regler for målrettet markedsføring? Del tankene dine med oss.