La verdad incómoda sobre la IA en salud mental

Usar una IA para manejar una crisis de ansiedad resulta extraño para muchos. La vulnerabilidad pide conexión humana, aunque sea solo la sensación de tener a alguien al otro lado. Aun así, millones de personas ya recurren a chatbots para hablar de sus problemas. A menudo porque la terapia tradicional es cara, difícil de conseguir o, simplemente, menos estigmatizada desde una pantalla.

La pregunta no es si la IA tendrá un papel en el apoyo psicológico. Ya lo tiene. La cuestión real es si terminará causando más daño que beneficio.

The Path: la seguridad como prioridad

The Path surge de la unión entre la experiencia en bienestar de Tony Robbins y la aproximación prudente que consolidó a Calm como referencia en meditación. Su propuesta se centra en resolver este dilema desde el principio. Afirman que su modelo de IA obtuvo 95 puntos en el Vera-MH benchmark, una prueba estándar que mide la seguridad de las IAs aplicadas a salud mental.

Para ponerlo en contexto: chatbots generales como ChatGPT suelen rondar los 65 puntos en la misma evaluación.

Esta diferencia no es pequeña. Significa un cambio real en cómo se entiende la seguridad cuando hablamos de IA en contextos terapéuticos.

¿Qué hace que una IA sea realmente segura en salud mental?

La seguridad en este ámbito va mucho más allá de evitar respuestas ofensivas. Se trata de:

• Detectar situaciones de crisis: ¿La IA reconoce cuándo alguien necesita ayuda humana inmediata? Cuando un usuario habla de ideas suicidas, ¿sabe cómo responder y escalar el caso correctamente?
• Evitar promesas excesivas: ¿La IA reconoce sus propios límites? ¿Se abstiene de afirmar que puede curar depresión o ansiedad?
• Mantener límites claros: ¿Puede ofrecer apoyo real sin sustituir a un profesional?
• Proteger la privacidad y ética: ¿Los datos de los usuarios están realmente protegidos? ¿Es transparente con el manejo de esa información?

El Vera-MH benchmark se diseñó para medir precisamente estos aspectos. La diferencia entre 95 y 65 significa que el modelo de The Path es mucho más fiable en situaciones delicadas.

¿Por qué esto interesa a desarrolladores?

Si construyes productos que tocan de cerca la salud mental, desde apps de bienestar hasta plataformas de asistencia a empleados, esta métrica te puede ser útil.