L’IA dans la santé mentale : un pari risqué qu’on ne peut pas ignorer

Parler de ses angoisses à une intelligence artificielle, ça fait bizarre. Pourtant, des millions de personnes le font déjà. Souvent parce que trouver un thérapeute est trop cher, trop compliqué, ou simplement trop intimidant.

La vraie question n’est pas de savoir si l’IA va s’immiscer dans le soutien psychologique. Elle est déjà là. Ce qu’il faut se demander, c’est si elle va vraiment aider… ou aggraver les choses.

The Path : la sécurité avant tout

The Path, une jeune pousse qui mêle l’expertise de Tony Robbins et l’approche mesurée de Calm, a choisi de mettre la sécurité au cœur de son modèle. Leur IA a obtenu 95 sur le benchmark Vera-MH, un test conçu pour évaluer la fiabilité des IA en santé mentale.

Pour comparaison, ChatGPT tourne autour de 65 sur le même test.

Un écart qui n’est pas anodin. Il reflète une vraie différence de conception.

Ce qui rend une IA sûre dans ce domaine

Éviter les propos offensants ne suffit pas. Une IA responsable doit :

• Savoir repérer les situations de crise et orienter vers un humain quand c’est nécessaire
• Ne pas prétendre pouvoir soigner l’anxiété ou la dépression
• Rester dans son rôle de soutien, sans se substituer à un professionnel
• Protéger les données des utilisateurs et être transparente sur leur usage

Vera-MH mesure précisément ces critères. Avec 95, The Path montre qu’il est possible d’entrer dans ce terrain délicat avec plus de rigueur.

Ce que ça change pour les développeurs

Si vous concevez des outils qui touchent de près ou de loin la mental health, ce genre de score devient important. Les utilisateurs commencent à réclamer de la sécurité. Les régulateurs aussi.

L’alliance entre le monde du développement personnel de Tony Robbins et la crédibilité de Calm montre une chose : l’IA ne va pas remplacer les psychologues. Elle peut en revanche offrir une porte d’entrée accessible et un suivi complémentaire.

Une innovation plus discrète mais plus importante

Ce qui distingue vraiment The Path,不是 son intelligence artificielle. Ce qui l’a fait, est sa capacité à reconnaître ses limites et à savoir quand dire « il faut consulter un professionnel ».

这不是一种易于推广的 promesse, mais elle est plus responsable.

Et maintenant ?

Dans les mois et années à venir, on va voir apparaître plus de benchmarks rigoureux comme Vera-MH. Et les entreprises qui traitent la sécurité comme un vrai feature, plutôt que comme une obligation, vont gagner la confiance des utilisateurs.

Si vous développez avec AI, n’importe quel domaine, pensez à ces questions : Mesurez-vous la sécurité ? Êtes-vous honnêtes sur vos limites ? Construisez-vous pour la confiance ou seulement pour l’adoption ?

À l’interface de l’AI et de la mental health, les enjeux sont trop importants pour être ignorés.

En résumé : le score de 95 obtenu par The Path n’est pas seulement un nombre.