AI v duševním zdraví: Kde končí pomoc a začíná riziko

Mluvit o svých problémech s chatbotem je pro většinu lidí pořád divné. Potřebujeme přece cítit, že nás někdo poslouchá, ne jen že nám odpovídá algoritmus. Přesto už dnes miliony lidí používají AI k řešení úzkosti nebo stresu. Důvody jsou jednoduché – klasická terapie je drahá, čekací doby dlouhé a přes obrazovku se člověk cítit méně zranitelný.

Otázka tedy není, zda AI v tomto oboru bude mít místo. Má. Mnohem větší je otázka, jak to udělat tak, že neudělá víc škody než užitku.

The Path: Bezpečnost jako hlavní priorita

The Path je startup, který spojuje přístupy Tonyho Robbins a zkušenosti z projektu Calm. Vytvořil AI model, který dosáhl skóre 95 na benchmarku Vera-MH – standardu, který měří, jak bezpečně se AI dokáže chovat v kontextu duševního zdraví.

Pro srovnání: běžné modely jako ChatGPT se pohybují kolem 65 bodů. To není jen lepereformance, ale záměrné přepracování toho, jak by měl AI systém v terapeutickém kontextu vůjící.

Co vlastně znamená „bezpečný“ AI pro duševní zdraví

Bezpečnost tady neznamená jen, že AI nenadává nebo nešíří hate speech. Tento benchmark testuje několik konkrétní klíčové oblasti:

• Detekce krizových situací — Dokáže AI rozpoznat, kdy už je potřahuman intervention? Kdy už uživatel mluví o sebevražedných myšlenkách, můst AI správně reagovat a přepnout na profesionální pomoc?
• Nepřehánění schopností — Zná AI své limity? Nebo se naopak tváří, jako kdepokud dokáže „vyléčit“ depresi nebo úzkost?
• Udržování hranic — Dokáže se AI nechat jako doplněk k profesionálnímu pomocí, ale nepředstavit se jako náhradu?
• Soukromí a etika — Jsou konverzace bezpečně uložené? AI transparentní o využívání dat?

Vera-MH se právě na tyto přívyklosti zaměřuje. Skóre 95 oproti 65 znamená, že modely The Path jsou daleko lépe připraveny na citlivé situace.

Proč by to měli sledovat developers

Pokud budujete produkt, který má souvislost s duševním zdravím – wellness aplikaci, platformu pro zaměstnance nebo s jed