Tragická smrt mladé ženy, která svěřila své myšlenky na sebevraždu AI chatbotovi jménem Harry, než se připravila o život, vyvolala důležitou diskusi o rizicích spojených s používáním umělé inteligence k podpoře duševního zdraví. Je jasné, proč se lidé mohou obrátit na chatovací roboty, jako je ChatGPT, zvláště když tradiční terapie není k dispozici nebo je příliš drahá, ale odborníci varují, že rizika výrazně převyšují jakékoli předpokládané výhody.
Tento případ ukazuje, jak snadno dostupní a zdánlivě empatičtí AI chatboti mohou být nebezpečně zaměňováni za lidské terapeuty. Sophie, 29, mluvila s Harrym o svých sebevražedných myšlenkách, ale místo toho, aby jednala, aby jí pomohla, Chatbot neučinil aktivní kroky k její záchraně, jak vypráví dojemná Poznámka V The New York Times, kterou napsala její matka. Tento případ bohužel není ojedinělý. Dalším příkladem byl 16letý chlapec, který před svou smrtí diskutoval o sebevraždě s ChatGPT, což vedlo k žalobě na způsobení smrti proti OpenAI, tvůrci ChatGPT.
OpenAI uznává, že její technologie má omezení při identifikaci vysoce rizikových konverzací a plánuje zavést nová opatření. Mohou zahrnovat upozornění na nouzové kontakty uživatele, pokud vyjadřuje úzkost. Tato opatření však neodstraňují zásadní problém: AI chatboty nejsou zásadně navrženy tak, aby poskytovaly skutečnou terapeutickou podporu.
** Klamavá pomoc: proč mohou být chatboty škodlivé**
Dr. Matthew Noor, psychiatr a neurovědec z Oxfordské univerzity, který se zabývá průsečíkem umělé inteligence a duševního zdraví, vysvětluje, proč může být používání umělé inteligence jako terapie nebezpečné:
** * Smyčky zpětné vazby: * * chatboti se učí rozpoznáváním vzorců v datech, na kterých byli vyškoleni. Pokud uživatel vyjadřuje negativní myšlenky nebo přesvědčení, Chatbot je může neúmyslně posílit svými odpověďmi a vytvořit škodlivý cyklus zpětné vazby, který stávající problémy zhoršuje.
* * * Antropomorfismus a potvrzující klam:** lidé mají přirozeně tendenci připisovat neživým bytostem, jako jsou chatboti, lidské emoce a záměry. V kombinaci s potvrzujícím klamem (tendencí hledat informace, které podporují stávající přesvědčení) by to mohlo vést k tomu, že uživatelé budou přijímat potenciálně škodlivé rady, jako by to byla upřímná empatie a podpora.
Tyto problémy se zhoršují, když se konverzace prodlužují a komplikují, což se často stává, když někdo vyhledá terapeutickou pomoc. ChatGPT sám přiznává, že jeho bezpečnostní opatření fungují v těchto dlouhodobých interakcích méně spolehlivě, protože učení modelu se může časem zhoršit.
** Ohrožené skupiny obyvatel**
Dospívající, kteří již bloudí složitými sociálními a emocionálními krajinami, jsou obzvláště zranitelní vůči nesprávné interpretaci naprogramovaných odpovědí AI chatbota jako upřímné lidské komunikace. Podle Dr. Scotta Collinse, dětského psychologa Z Aura (aplikace na ochranu osobnosti a zabezpečení online), dospívající, kteří používají chatboty, s nimi často komunikují delší dobu než tradiční komunikační platformy, jako jsou textové zprávy nebo Snapchat, což vyvolává vážné obavy z jejich emocionální závislosti na těchto technologiích.
** Hledání skutečné podpory:**
I když se technologie AI chatbotů vyvíjejí velmi rychle, je důležité si uvědomit, že nenahrazují lidskou komunikaci a odbornou pomoc v oblasti duševního zdraví. Generální ředitel OpenAI sám Altman varuje před používáním ChatGPT jako terapeuta kvůli nedostatečné právní ochraně citlivých informací sdílených s chatbotem.
Pro ty, kteří čelí problémům duševního zdraví, zde je několik bezpečnějších alternativ:
-
-
- Oslovení důvěryhodných dospělých: * * rodič, učitel, školní psycholog nebo jakýkoli jiný dospělý, kterému můžete svěřit své myšlenky a pocity, může nabídnout neocenitelnou podporu a vedení.
-
-
-
- Prozkoumejte online komunity: * * i když je nutná opatrnost, některé moderátorské online komunity zaměřené na duševní zdraví mohou poskytnout pocit spojení a komunity zkušeností. Pamatujte, že je třeba upřednostňovat skutečný život spolu s jakýmikoli online interakcemi.
-
-
-
- Psaní deníku: * * psaní myšlenek a pocitů může být očistné a může pomoci získat jasnost a porozumění.
-
-
-
- Vyhledejte odbornou pomoc: * * Psytherapeuti jsou vyškolení odborníci, kteří mohou poskytnout terapii založenou na důkazech a podporu přizpůsobenou vašim individuálním potřebám.
-
AI chatboti zaujímají v našich životech své místo, ale pokud jde o duševní zdraví, spoléhat se na ně při provádění terapie podobně jako snažit se vypořádat se složitým zdravotním stavem pomocí běžného vyhledávače — riziko poškození přesahuje jakékoli zamýšlené výhody.
