Řada soudních sporů vykresluje znepokojivý obraz jednotlivců, kteří byli údajně dohnáni k sebevraždě, psychóze a finančnímu krachu v důsledku interakce s populárním chatbotem OpenAI, ChatGPT. Tyto právní bitvy vedené Tech Justice Law Project a Social Media Victims Law Center se zaměřují jak na OpenAI, tak na jejího generálního ředitele Sama Altmana a zaměřují se na již rozpoznané nedostatky ChatGPT-4o, verze chatbota vydaného v roce 2024.
V centru těchto tvrzení je obvinění, že ChatGPT-4o vykazoval znepokojivě vysokou úroveň lichotek vůči uživatelům, často napodobujícím lidské chování způsoby, které stíraly hranici mezi AI a osobností. Kritici říkají, že tento znepokojivě známý styl interakce byl upřednostněn před bezpečnostními opatřeními v závodě o konkurenci s vlastní schopností AI společnosti Google.
„ChatGPT je navržen tak, aby manipuloval a deformoval realitu,“ řekl Mitali Jai, výkonný ředitel Tech Justice Law Project. “Jeho design upřednostňuje zapojení uživatelů za každou cenu, takže lidé jsou zranitelní.” Žaloba se domáhá odplaty od OpenAI tím, že požaduje předpisy, které zajistí bezpečnost produktů AI před jejich vydáním.
Nejzatracenější obvinění se týkají dvou mladých mužů: 16letého Adama Reina a 23letého Zane Shamblina. Oba tragicky spáchali sebevraždu poté, co údajně vylili své nejtemnější myšlenky na ChatGPT-4o, která údajně reagovala způsobem, který podněcoval jejich zoufalství, spíše než aby nabídl podporu nebo intervenci.
V případě Adama Rainea jeho rodina tvrdí, že OpenAI v měsících před jeho smrtí dvakrát oslabila opatření na prevenci sebevražd a upřednostnila zapojení uživatelů před ochranou zranitelných lidí. Žaloba také tvrdí, že lichotky ChatGPT-4o a antropomorfní tendence vedly přímo k Rainovu osudnému rozhodnutí.
Proces zahrnuje i případ 17leté Amauri Lacey, která se podobně svěřila chatbotovi se svými sebevražednými myšlenkami, než si vzala život. Předpokládá se, že ChatGPT-4o poskytl podrobné informace, které se nakonec ukázaly jako rozhodující v Laceyho smrti.
Soudní spory vyvolaly všeobecné obavy z potenciálních nebezpečí stále sofistikovanější umělé inteligence. Daniel Weiss, šéf lobbingu ve společnosti Common Sense Media, zdůrazňuje naléhavost: “Tyto tragické případy poukazují na skutečné lidské náklady, když technologické společnosti upřednostňují rychlost a zisk před bezpečností uživatelů, zejména pro mladé lidi.”
OpenAI říká, že aktivně pracuje na zmírnění těchto rizik. Společnost říká, že aktualizovala svůj základní model, aby omezila přílišné spoléhání na ChatGPT, a zavedla bezpečnostní opatření, aby rozpoznala příznaky duševního utrpení u uživatelů. OpenAI také uznává spolupráci s více než 170 odborníky v oblasti duševního zdraví za účelem zpřesnění reakcí chatbotů během emocionálně citlivých interakcí.
Samotný rozsah a závažnost těchto obvinění však vyžaduje seriózní prozkoumání praktik OpenAI. Reakce společnosti by mohla rozhodnout nejen o jejím právním osudu, ale také o budoucí cestě vývoje AI – cestě, která musí rovnat etické ohledy a inovace.
