AI inom psykisk hälsa – en sanning många hellre vill undvika

Att vända sig till en chatbot när ångesten slår till känns avigt. Det är något med att vara sårbar som kräver mänsklig kontakt, eller åtminstone känslan av den. Trots det använder redan många människor AI för att prata om sina problem – ofta för att terapi är dyrt, svårt att få tag på eller helt enkelt känns mindre laddat bakom en skärm.

Frågan är inte längre om AI kommer att användas inom psykisk hälsa. Den är redan här. Nu gäller det att se om den gör mer nytta än skada.

The Path tar säkerhet på allvar

The Path är ett nytt bolag som kombinerar Tony Robbins erfarenhet av personlig utveckling med den försiktiga tonen som gjorde Calm populärt. Deras AI-modell har fått 95 poäng på Vera-MH, en mätning som bedömer hur säkert ett system är i mentalvårdssammanhang.

Vanliga chatbots som ChatGPT ligger oftast runt 65 på samma skala. Det är inte bara en liten skillie – det visar på en helt ny syn på hur AI bör fungera när det gäller känsliga frågor.

Vad innebär säker AI egentligen?

Säkerhet handlar inte bara om att undvika felaktiga ord. Det går mycket längre än det:

• Upptäcka krissituationer: Kan systemet känna av när en användare behöver riktig hjälp? Hur hanterar det utsagor om självmordstankar?
• Veta sina gränser: Undviker AI:n att lova för mycket, som att "bota" depression eller ångest?
• Hålla sig inom rätt roller: Erbjuder den stöd utan att ersätta professionell vård?
• Hantera data korrekt: Är samtalen skyddade och är användaren informerad om hur informationen används?

Vera-MH är byggd för att testa just dessa punkter. Att få 95 poäng visar att The Path är mycket bättre på att hantera de kritiska momenten som uppstår i mentalvårdskontexten.

Vad betyder det här för dig som bygger produkter?

Om du arbetar med appen eller plattformen som berör psykisk hälsa, inklusive employee assistance-program, bör du börja följa Vera-MH och liknande benchmarks. Regleringarna i Europa kommer kan<|eos|>