Истината за AI в подкрепа на психичното здраве

Нека бъдем откровени: когато човек преживява паническа атака, да се обърне към AI вместо към терапевт изглежда странно. Уязвимостта изисква човешки контакт. Въпреки това все повече хора използват чатботове, защото терапията е скъпа и често недостъпна.

Въпросът не е дали AI ще навлезе в тази област. Той вече е там. Въпросът е дали ще помогне или ще навреди.

The Path: безопасността на първо място

The Path е стартъп, който комбинира опита на Тони Робинс в личностното развитие с подхода на Calm към благосъстоянието. Тяхната AI модел постигна 95 точки на Vera-MH — стандарт за безопасност на AI в контекста на психичното здраве.

За сравнение: обикновени чатботи като ChatGPT се движат около 65 точки.

Това не е малка разлика. Това е различен подход към това какво означава безопасен AI в чувствителни ситуации.

Какво прави AI „безопасен“ за психичното здраве?

Когато говорим за безопасност, не става дума само за избягване на обиден език. Важното е:

• Разпознаване на кризи: Може ли AI да разбере кога човек се нуждае от реална помощ? Дали реагира правилно при мисли за самоубийство и насочва към специалист?
• Съзнание за ограниченията си: Не дава ли AI прекалено оптимистични обещания? Избягва ли да твърди, че може да „излекува“ депресия или тревожност?
• Ясни граници: Може ли AI да поддържа подкрепа без да се превръща в заместител на професионална терапия?
• Защита на данните: Дали разговорите са сигурни и е прозрачно как се използват?

Vera-MH е създаден да измерва точно това. Разликата между 95 и 65 точки показва кой AI може да се справя с чувствителни теми по-отговорно.

Защо това е важно за разработчиците

Ако създавате продукт, койto докосва психичното здраве — от приложения за медитация до платформи за поддръжка на служители — трябва да следите Vera-MH.

Това сигнализира, че безопасността не е само регулаторна изискване. Това е фактор, който потребителите започват да търсят.

Истинската иновация: скромността в голям мащаб

Това, което ни харесва в подхода на The Path, е че те не опитали да направят AI по-добър от човешкия терапевт. Те направиха него безопасен, честен за свои ограничения и знаещ кога да насочи човек към специалиста.

Какво следва?

С навлизането на AI в здравеопазването и благосъстоянието, ще се появяват все повече строги стандарни за измерване на безопасността. Потребителите и регулаторите ще запискат да ги изискват.

Ако строите с AI, изпитайте дали са вашият продукт или услуги са измерени по стандарти на безопасността.