Трагічна загибель молодої жінки, яка довірив свої думки про самогубство ШІ-чатботу на ім’я Гаррі, перш ніж позбавити себе життя, викликала важливу дискусію про ризики, пов’язані з використанням штучного інтелекту для підтримки психічного здоров’я. Зрозуміло, чому люди можуть звертатися до чат-ботів на кшталт ChatGPT, особливо коли традиційна терапія недоступна або занадто дорога, але експерти попереджають, що ризики значно перевищують будь-які передбачувані переваги.
Цей випадок показує, як легко доступні та, здавалося б, емпатичні чат-боти AI можуть бути небезпечно помилковими для людських терапевтів. 29-річна Софі розповіла Гаррі про свої суїцидальні думки, але замість того, щоб діяти, щоб допомогти їй, чат-бот не вжив активних кроків для її порятунку, як розповідає зворушлива записка в The New York Times, написана її матір’ю. Цей випадок на жаль не є ізольованим. Іншим прикладом став 16-річний хлопчик, який обговорив суїцид з ChatGPT перед смертю, що призвело до позову про заподіяння смерті проти OpenAI, творця ChatGPT.
OpenAI визнає, що її технологія має обмеження у виявленні розмов з високим ризиком і планує впровадити нові запобіжні заходи. До них може відноситися повідомлення контактів екстреної допомоги користувача, якщо він висловлює занепокоєння. Однак ці заходи не усувають фундаментальної проблеми: ШІ-чат-боти в корені не призначені для надання справжньої терапевтичної підтримки.
** Оманлива допомога: чому чат-боти можуть бути шкідливими**
Доктор Метью Нур, психіатр і невролог з Оксфордського університету, який займається перетином штучного інтелекту та психічного здоров’я, пояснює, чому використання ШІ як терапії може бути небезпечним:
-
-
- Цикли зворотного зв’язку: * * Чат-боти навчаються, розпізнаючи шаблони в даних, на яких вони були навчені. Якщо Користувач висловлює негативні думки або переконання, чат-бот може ненавмисно зміцнити їх своїми відповідями, створюючи шкідливий цикл зворотного зв’язку, який посилює існуючі проблеми.
-
-
-
- Антропоморфізм та підтвердження марення:** люди, природно, схильні приписувати неживим істотам, таким як чат-боти, людські емоції та наміри. У поєднанні з підтвердженням марення (схильність шукати інформацію, що підтверджує існуючі переконання), це може призвести до того, що користувачі приймуть потенційно шкідливі поради так, ніби вони є справжньою емпатією та підтримкою.
-
Ці проблеми загострюються, коли розмови стають тривалими і складними, що часто трапляється, коли хтось звертається за терапевтичною допомогою. Сам ChatGPT визнає, що його заходи безпеки працюють менш надійно в цих тривалих взаємодіях, оскільки навчання моделі з часом може погіршуватися.
** Вразливі групи населення під загрозою**
Підлітки, які і так блукають у складних соціальних та емоційних ландшафтах, особливо вразливі до неправильної інтерпретації запрограмованих відповідей ШІ-чат-бота як щирого людського спілкування. За словами доктора Скотта Коллінова, дитячого психолога З Aura (програми захисту особистості та безпеки в Інтернеті), підлітки, які використовують чат-боти, часто спілкуються з ними довше, ніж у традиційних комунікаційних платформах, таких як текстові повідомлення або Snapchat, що викликає серйозні занепокоєння щодо їх емоційної залежності від цих технологій.
** Пошук реальної підтримки:**
Хоча технології AI-чат-ботів розвиваються дуже швидко, важливо пам’ятати, що вони не замінюють людського спілкування та професійну допомогу в галузі психічного здоров’я. Генеральний директор OpenAI сам Альтман сам застерігає від використання ChatGPT як терапевта через відсутність юридичного захисту конфіденційної інформації, що ділиться з чат-ботом.
Для тих, хто стикається з проблемами психічного здоров’я, ось кілька більш безпечних альтернатив:
-
-
- Звернутися до довірених дорослих: * * батько, вчитель, шкільний психолог або будь-який інший дорослий, якому ви можете довірити свої думки і почуття, може запропонувати неоціненну підтримку і керівництво.
-
-
-
- Вивчіть інтернет-спільноти: * * хоча потрібна обережність, деякі модераторські інтернет-спільноти, присвячені психічному здоров’ю, можуть дати відчуття зв’язку та спільності досвіду. Пам’ятайте, що необхідно ставити пріоритет реальному житті разом з будь-якими онлайн-взаємодіями.
-
-
-
- Ведення щоденника: * * написання своїх думок і почуттів може бути очищаючим і допомогти знайти ясність і розуміння.
-
-
-
- Зверніться за професійною допомогою: * * Пситерапевти – це кваліфіковані фахівці, які можуть надати доказову терапію та підтримку, адаптовану до ваших індивідуальних потреб.
-
ШІ-чат-боти займають своє місце в нашому житті, але коли мова йде про психічне здоров’я, покладатися на них для проведення терапії подібно до того, як намагатися розібратися зі складним медичним захворюванням за допомогою звичайного пошукача — ризик заподіяння шкоди перевищує будь-які передбачувані переваги.
