Miért nem elég, ha egy AI okos – főleg, ha mentális egészségről van szó

Őszintén szólva, furcsa érzés, amikor egy gépet kérünk meg, hogy segítsen egy pánikroham közepén. A sebezhetőség olyan dolog, amit inkább emberrel akarunk megosztani, még ha csak látszatra is. Ugyanakkor rengetegen használnak már chatrobotokat erre a célra, mert a terápiás segítség drága, nehezen elérhető, vagy egyszerűen kevésbé ciki online.

A kérdés nem az, hogy az AI belép-e a mentális egészség támogatásába. Már bent van. Hanem az, hogy többet árt-e, mint használ.

The Path: amikor a biztonság a központi funkció

The Path nevű startup Tony Robbins személyes fejlődéses tapasztalatait ötvözi a Calm app által képviselt óvatos megközelítéssel. Azt állítják, hogy az általuk fejlesztett AI 95-ös pontszámot ért el a Vera-MH nevű teszten, ez a mérce pedig kifejezetten a mentális egészséghez kapcsolódó AI biztonságosságát vizsgálja.

Ehre szemben a szokásos chatrobotok – például ChatGPT – általában 60 körüli eredményt mutatnak.

Ez nem egy apró javítás. Ez egy teljesen más szemléletű építkezés.

Mitől lesz egy AI tényleg biztonságos a mentális egészség területén?

Gyakran csak azt gondoljuk, hogy az AI-nak ne legyen bántó nyelve. De az igazi biztonság ennél sokkal mélyebb:

• Válsághelyzetek felismerése: képes-e észlelni, hogy amikor valaki öngyilkossági gondolatokról beszél, akkor azonnal emberhez kell továbbítani?
• Önkorlátozás: tudja-e a modell, hogy nem helyettesítheti a szakembert, és nem ígérhet gyógyítást?
• Tartsa meg a határokat: tudja-e, hogy még mindig csak egy kiegészítő eszköz, és nem állhat a valódi kezelés elé?
• Adatvédelem és etika: biztosak vagyunk-e, hogy a megbeszélt dolgok valóban védettek?

A Vera-MH mérce éppen ezeket a kérdéseket teszteli. A 95 és 65 közötti különbség azt bedeutet, modellünk sokkal szigorúbban és óvatosabban kezel hálsituációkat.

Miért érdekes ez a fejlesztők számára

Ha valaki wellness appot vagy employee assistance programot épít, akkor a Vera-MH eredményekre érdemes figyelni. A felhasználók egyre inkább azt fordern, hogy az AI ne csak hatékony legyen, hanem elsőként biztonságos is. A szabályozók pedig egyre inkább ezt fordern.

A Tony Robbins és Calm által holedomon kombináció azt üzeni, hogy az AI terápia nem arról szól, hogy klinikai pszichológust helyettesítsen. Ez sokkal inkább egy gondosan épített belépőpont és folyamatos támogatás.

Az igazi újdonság: önkorlátozás milliárdos szinten

Tényleg exciting itt az, hogy The Path nem azt próbálta meg, hogy az AI-t okosabbá tegye emberi terapeutánál. Hanem azt, hogy jobban tudjon „stop” jelet adni és human expert irányra irányítani.

Ez nem olyan reklámanyag, mint „24/7 AI therapist”. De sokkal felelőssebb.

Mi jön még ez után?

A jövőben egyre inkább hasonló, szigorú mérceket látunk. A szabályozók egyre többet követelnek ilyen eredményeket. A felhasználók pedig egyre inkább ezt fordern.

Aki ma épít, és azt mondja, hogy „szicher” van első helyen, akkor a jövőben nem einfach csak megmarad – hanem dominálni fog.

A kérdés mindenki számára: az AI-t építve, a mentális egészséggel együtt – mértük-e a biztonságot?