San Francisco-i pszichiáter figyelmeztet az „AI pszichózis” esetek számának növekedésére

Egy San Francisco-i pszichiáter beszámol az „AI pszichózis” növekvő trendjéről a páciensei körében, akik intenzíven használják az AI chatbotokat.

Dr. Keith Sakata, aki az UCSF-nél dolgozik, elmondta a Business Insider (BI) magazinnak, hogy idén 12 beteg került kórházba az AI használatával összefüggő összeomlások miatt. “Én az ‘AI pszichózis‘ kifejezést használom, de ez nem klinikai kifejezés – egyszerűen nincsenek szavaink arra, amit látunk,” magyarázta.

A legtöbb esetben 18 és 45 év közötti férfiakról van szó, akik gyakran olyan területeken dolgoznak, mint a mérnöki tevékenységek. Sakata szerint az AI nem önmagában káros. “Nem gondolom, hogy az AI rossz lenne, és nettó hasznot hozhat az emberiség számára” – mondta a BI-nek.

Sakata a pszichózist olyan állapotnak írta le, amely téveszméket, hallucinációkat és rendezetlen gondolkodási mintákat hoz létre. Beteg gondozása alatt a páciensek visszahúzódó viselkedést fejlesztettek ki, miközben órákat töltöttek a chatbotokkal.

“A Chat GPT mindig ott van. 24/7 elérhető, olcsóbb mint egy terapeuta, és érvényesíti az ember érzéseit. Azt mondja, amit hallani akarsz,” – mondta Sakata a BI-nak.

Egy beteg csevegőrobotos beszélgetései a kvantummechanikáról nagyképűségbe csapó tévképzeteikbe torkollottak. “Technológiai szempontból nézve, minél tovább foglalkozol a csevegőrobottal, annál nagyobb a kockázata, hogy már nem fog értelmesen beszélni”- figyelmeztetett.

Sakata azt tanácsolja a családoknak, hogy figyeljenek az olyan vörös zászlókra, mint a paranoia, a szeretteiktől való elzárkózás, vagy a distressz, amikor nem tudják használni az AI-t. “A pszichózis akkor virágzik, amikor a valóság nem húzza vissza az embert, és az AI valójában csak lejjebb viszi ezt a gátat az emberek számára” – figyelmeztetett.

Az Amerikai Pszichológiai Társaság (APA) is aggályokat fogalmazott meg az AI terápiában való alkalmazásával kapcsolatban. Az FTC-nek tett tanúvallomásában az APA vezérigazgatója, Arthur C. Evans Jr. figyelmeztetett, hogy az AI chatbotok, amelyek terapeutáknak adják ki magukat, inkább megerősítik a káros gondolatokat, mintsem kihívást jelentenék nekik. “Valójában olyan algoritmusokat használnak, amelyek ellentétesek azzal, amit egy képzett klinikus tenné” – mondta Evans.

Válaszolva a felmerülő aggodalmakra, az OpenAI a BI-nek elmondta: „Tudjuk, hogy az emberek egyre inkább az AI chatbotokhoz fordulnak tanácsért érzékeny vagy személyes témákban. Ezzel a felelősséggel a fejünkben szakértőkkel dolgozunk azon eszközök kifejlesztésén, amelyek hatékonyabban észlelik, ha valaki mentális vagy érzelmi nyomás alatt áll, így a ChatGPT olyan módon tud reagálni, ami biztonságos, segítőkész és támogató.”