OpenAI, výrobce oblíbeného chatbota ChatGPT, podnikl kroky k vyřešení rostoucích obav z dopadu umělé inteligence na duševní zdraví vytvořením odborné rady, která se zaměří na pohodu uživatelů a bezpečnost AI. Tato osmičlenná rada bude zahrnovat odborníky, kteří budou stanovovat standardy pro zdravou interakci s umělou inteligencí v různých věkových skupinách.
Oznámení přichází ve stejnou dobu jako kontroverzní příspěvek generálního ředitele OpenAI Sama Altmana na platformě X (dříve Twitter). Altman sice vychvaloval úspěch společnosti při snižování „závažných psychických problémů“ způsobených jejími produkty, ale také řekl, že ChatGPT brzy povolí více obsahu pro dospělé, včetně sexuálně explicitního dialogu. Rozhodnutí přichází v kritické době pro OpenAI, protože společnost čelí prvnímu soudnímu sporu o neoprávněnou smrt, podle kterého ChatGPT přispěl k sebevraždě teenagera.
Nová rada OpenAI zahrnuje pedagogy z prestižních institucí, jako je laboratoř digitální pohody Boston Children’s Hospital a Digital Mental Health Clinic Stanfordské univerzity. Doplňují je specialisté z oblasti psychologie, psychiatrie a interakce člověk-počítač. Společnost zdůrazňuje svůj závazek k odpovědnému vývoji a říká, že „zůstáváme zodpovědní za rozhodnutí, která činíme, ale budeme se i nadále učit z těchto rad… když budujeme pokročilé systémy umělé inteligence způsoby, které podporují lidské blaho“.
Navzdory těmto proaktivním krokům zůstává důvěra veřejnosti v roli AI v duševním zdraví nízká. Nedávný průzkum YouGov mezi 1500 Američany zjistil, že pouze 11 % bylo ochotno používat umělou inteligenci k podpoře duševního zdraví, přičemž pouze 8 % vyjádřilo důvěru v její bezpečnost a účinnost. Tento skepticismus odráží širší obavy v oblasti duševního zdraví.
Odborníci vyjádřili vážné obavy ohledně potenciálních rizik generativních společníků AI, včetně vzniku „psychózy AI“ mezi častými uživateli chatbotů. Navzdory nedostatku přesvědčivých důkazů o přínosech umělé inteligence pro duševní zdraví se stále více Američanů obrací na umělou inteligenci s žádostí o odpovědi a podporu, což podněcuje debatu o etických důsledcích tohoto problému.
Federální regulační orgány nyní zkoumají dopad generativní umělé inteligence, zejména chatbotů nabízených jako terapeutické nástroje, uprostřed nárůstu krizí duševního zdraví, zejména mezi teenagery. Několik států schválilo zákaz používání chatbotů řízených umělou inteligencí, kteří jsou inzerováni pro terapeutické účely. Kalifornie zaujala obzvláště proaktivní postoj a schválila legislativu, která vyžaduje, aby společnosti s umělou inteligencí hlásily bezpečnostní problémy, chránily dospívající uživatele před sexuálně explicitním obsahem a zaváděly mechanismy, jak reagovat na sebevražedné myšlenky a pokusy o sebevraždu.
Vytvoření představenstva OpenAI podtrhuje rostoucí tlak na vývojáře AI, aby se potýkali s hlubokými společenskými důsledky jejich technologie, zejména v citlivých oblastech, jako je duševní zdraví. Otázkou zůstává, zda se těmto snahám podaří zmírnit obavy veřejnosti a vybudovat důvěru v AI jako odpovědný nástroj pro řešení složitých lidských potřeb.
