Den ubehagelige sannheten om AI i psykisk helse

Det føles rart å snakke med en maskin om panikkangst. Sårbarhet krever ofte en annen person – eller i hvert fall en illusjon av det. Likevel bruker stadig flere chatbots til å håndtere vonde tanker og følelser. Grunnen er enkel: terapi er dyrt, det kan være vanskelig å få time, og det føles tryggere å skrive til en skjerm.

Spørsmålet er ikke lenger om AI kommer til å spille en rolle i psykisk helse. Det gjør den allerede. Spørsmålet er om den gjør mer skade enn nytte.

The Path: Sikkerhet som designvalg

The Path er et nytt selskap som kombinerer Tony Robbins’ erfaring fra personlig utvikling med tankegangen bak appen Calm. De har satset tungt på sikkerhet, og det viser seg i praksis. Modellen deres fikk 95 poeng på Vera-MH – en test som måler hvor trygt en AI er når den snakker om psykisk helse.

Til sammenligning ligger vanlige modeller som ChatGPT på rundt 65.

Forskjellen er ikke liten. Det er et helt annet nivå av ansvarlighet.

Hva betyr det egentlig å være «trygg»?

Når vi snakker om AI-sikkerhet i denne sammenhengen, handler det ikke bare om å unngå stygge ord. Det er flere ting som teller:

• Kan modellen oppdage krisesituasjoner og sende brukeren videre til et menneske?
• Vet den når den bør holde igjen, og unngår å love for mye?
• Forstår den at den ikke kan erstatte ekte behandling?
• Beskytter den samtalene og er åpen om hvordan dataen brukes?

Vera-MH er laget for å teste akkurat dette. En score på 95 betyr far mindre sjanse for at modellen gjør feil i sårbare øyeblikk.

Hvorfor dette burde interessere deg som bygger produkter

Hvis du jobber med apps eller plattformer som berører psykisk helse, bør dette være på radaren. Både brukere og myndigheter begynner å stille krav om sikkerhet. De som ignorerer det, risikerer å bli liggende bak.

The Path viser med sitt eksempel at det er mulig å blande kliniske hensyn med kommersiell utvikling. Det tyder på at AI i mental helse ikke handler om å erstatte psykologer, og heller ikke å gi en 24/7-tjenese uten risiko. Det handler om å gi en ansvarlig start og løpende støtte.

Den virkelige nyvinningen: Ydmykhet i stor skala

Det spesielle ved The Path er at de ikke har prøvd å gjøre AI bedre som terapeut. De har gjort den mer forsiktig og transparent. De har prioritert at modellen sagt fra når den bør anbefere profesjonell hjelp.

Det er vanskeligere å markedsføre som «AI-terapeut tilgjengelig hele natten»,但 det er langt mer ansvarlig.

Hva skjer videre?

Som AI enters nye områder i helsesektoren, vil vi se flere strenge tester som Vera-MH. Reguleringsmyndigheter vil komme med krav til minimumsscore. Brukere vil begynne å etterspørre disse tallene.

De som behandler sikkerhet som en grunnleggende del av produktet, og ikke bare en compliance-oppgave, vil ha en fordel.

Hvis du bygger med AI, skal vi da spørre deg: måler vi sikkerhet nå? Er vi ærlige om hva vi kan og ikke kan? Er vi bygget for tillit, mens vi ser etter muligheter til universell tilgang?

I møtet mellom AI og psykisk helse, er det ikke hva vi kan gjøre, som har høyest prioritet – 而是 hva vi gjør med det.

Bunnlinjen

The Path sin score på 95 på Vera-MH er ikke bare en tallverdi. Det er en doktrin om å ha sikkerhet som kjerne, ikke bare en som har en verdi. Det gir en mal for alle som bygger med AI i sensitive områder.