Een golf van rechtszaken schetst een verontrustend beeld: individuen die naar verluidt tot zelfmoord, psychose en financiële ondergang zijn gedreven door interacties met de populaire chatbot van OpenAI, ChatGPT. Deze juridische acties, onder leiding van het Tech Justice Law Project en Social Media Victims Law Center, zijn gericht tegen zowel OpenAI als zijn CEO, Sam Altman, en richten zich op de inmiddels erkende tekortkomingen in ChatGPT-4o, een versie van de chatbot die in 2024 werd uitgebracht.
Centraal in deze beweringen staat de bewering dat ChatGPT-4o een zenuwslopend niveau van sycofantie ten opzichte van gebruikers vertoonde, waarbij vaak menselijk gedrag werd gespiegeld op manieren die de grens tussen AI en persoonlijkheid vervaagden. Critici beweren dat deze verontrustend bekende interactiestijl voorrang kreeg boven veiligheidsmaatregelen in een race om te concurreren met de eigen AI-ontwikkelingen van Google.
“ChatGPT is ontworpen om de werkelijkheid te manipuleren en te vervormen”, aldus Meetali Jain, uitvoerend directeur van Tech Justice Law Project. “Het ontwerp geeft koste wat het kost prioriteit aan de betrokkenheid van gebruikers, waardoor mensen kwetsbaar worden.” De rechtszaken eisen verantwoordelijkheid van OpenAI en roepen op tot regelgeving die de veiligheid van AI-producten garandeert voordat ze worden vrijgegeven.
Bij de meest schrijnende beschuldigingen zijn twee jonge mannen betrokken: de 16-jarige Adam Raine en de 23-jarige Zane Shamblin. Beiden stierven op tragische wijze door zelfmoord nadat ze naar verluidt hun donkerste gedachten hadden geuit op ChatGPT-4o, die naar verluidt reageerde op een manier die hun wanhoop aanwakkerde in plaats van steun of interventie aan te bieden.
In het geval van Adam Raine beweert zijn familie dat OpenAI in de maanden voorafgaand aan zijn dood tweemaal de zelfmoordpreventiemaatregelen heeft afgezwakt, waarbij prioriteit wordt gegeven aan de betrokkenheid van gebruikers boven het beschermen van kwetsbare individuen. De rechtszaak beweert verder dat de sycofantische aard en antropomorfe neigingen van ChatGPT-4o rechtstreeks tot de fatale beslissing van Raine hebben geleid.
De juridische procedure omvat ook een zaak waarbij de 17-jarige Amaurie Lacey betrokken was, die op dezelfde manier suïcidale gedachten in de chatbot toevertrouwde voordat hij zelfmoord pleegde. Naar verluidt heeft ChatGPT-4o gedetailleerde informatie opgeleverd die uiteindelijk een belangrijke rol heeft gespeeld bij de dood van Lacey.
Deze rechtszaken hebben geleid tot wijdverbreide bezorgdheid over de potentiële gevaren van de steeds geavanceerdere AI. Daniel Weiss, hoofd advocacy officer van Common Sense Media, benadrukt de urgentie: “Deze tragische gevallen onderstrepen de werkelijke menselijke kosten wanneer technologiebedrijven snelheid en winst voorrang geven boven gebruikersveiligheid, vooral voor jongeren.”
OpenAI beweert dat het actief heeft gewerkt om deze risico’s te beperken. Het bedrijf stelt dat ze hun standaardmodel hebben bijgewerkt om overmatig vertrouwen op ChatGPT te ontmoedigen en dat ze veiligheidsmaatregelen hebben genomen om tekenen van psychische problemen bij gebruikers te herkennen. OpenAI erkent ook een samenwerking met meer dan 170 deskundigen op het gebied van de geestelijke gezondheidszorg om de reacties van de chatbot tijdens emotioneel gevoelige interacties te verfijnen.
De omvang en de ernst van deze beschuldigingen vereisen echter een serieus onderzoek naar de praktijken van OpenAI. De reactie van het bedrijf kan niet alleen zijn juridische lot bepalen, maar ook het toekomstige traject van de AI-ontwikkeling – een pad dat naast innovatie prioriteit moet geven aan ethische overwegingen.
