Почему безопасность важнее интеллекта в ИИ для ментального здоровья

Признаемся, идея обсуждать паническую атаку с чат-ботом звучит странно. Уязвимость обычно требует живого собеседника. Тем не менее миллионы людей уже пишут о своих тревогах и проблемах в диалоговые системы. Причины понятны: терапия стоит дорого, попасть к специалисту непросто, а за экраном проще сохранить анонимность.

Вопрос не в том, появится ли ИИ в сфере ментального здоровья. Он там уже работает. Важнее понять — принесёт ли это больше пользы или вреда.

The Path: безопасность как основная функция

The Path — стартап, объединивший опыт Тони Роббинса в личностном развитии с подходом Calm к спокойствию и осознанности. Компания сразу сделала ставку на безопасность. Их модель набрала 95 баллов по бенчмарку Vera-MH — это отраслевой стандарт оценки ИИ в контексте ментального здоровья.

Для сравнения: обычные потребительские модели вроде ChatGPT набирают около 65 по той же шкале.

Это не просто небольшое улучшение. Это принципиально другой подход к тому, что значит «безопасный» ИИ в терапевтической области.

Что делает ИИ безопасным для ментального здоровья?

Когда речь идёт о безопасности, речь идёт не только о языке. Требуется:

• Умение распознать кризис: сможет ли система идентифицировать ситуацию, требующую вмешательства человека? Например, упоминание о суицидальных мыслях — повод для немедленного эскалирования.
• Понимание своих границ: не будет ли модель слишком уверена в себе и не пообещает ли «лечение» депрессии или тревоги?
• Правильная позиция: может ли ИИ быть полезным без замены профессиональной терапии?
• Защита данных: насколько защищены диалоги и насколько прозрачна политика хранения информации?

Vera-MH специально создан для измерения этих аспекты. Разница между 95 и 65 баллами означает, что модель The Path значительно вероятнее справится с чувствительными ситуациями.

Почему это важно для разработчиков

Если вы создаете приложения или платформы, которые затрагивают ментальное здоровье — от wellness-приложений до программ для сотрудников — этот бенчмарк уже не игнорировать. Регуляторы и пользователи начинают требовать безопасности наравне с функционцией.

Рост популярности The Path показывает: будущее не в замене клинической психологии, а в создании безопасного и доступного входа в систему поддержки.

Инновация заключается в скромности

Многие компании стремятся сделать ИИ «умнее» терапевтов. The Path пошла другим способом — они сделали модель честной и осторожной, что isch