Federální obchodní komise (FTC) zahajuje komplexní vyšetřování potenciálních nebezpečí, která chatboti s umělou inteligencí pro děti představují. V nedávném prohlášení zdůrazňujícím rostoucí obavy z těchto rychle se vyvíjejících technologií agentura požadovala podrobné informace od sedmi největších technologických společností o bezpečnostních opatřeních jejich chatbotů.
Seznam obsahuje Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap a xAI. Zejména chybí Anthropic, tvůrce chatbota Claude, ačkoli FTC odmítla vysvětlit důvody pro zahrnutí nebo vyloučení konkrétních společností z této první vlny žádostí. Agentura se snaží pochopit, jak tyto společnosti řeší jedinečná rizika, která jejich chatboti představují pro mladší uživatele.
FTC se zajímá zejména o tři klíčové oblasti:
- Hodnocení bezpečnosti: Jak plně společnosti vyhodnotily potenciální škody, které by jejich chatboti mohli způsobit dětem tím, že by vystupovali jako společníci nebo interaktivní postavy?
- Omezení přístupu a dopadu: Jaké kroky podnikáme k omezení přístupu nezletilých k těmto chatbotům a ke zmírnění jakýchkoli negativních dopadů, které mohou mít na děti a dospívající?
- Transparentnost pro uživatele a rodiče: Jsou uživatelé, zejména rodiče, dostatečně informováni o rizicích spojených s interakcí s chatboty založenými na umělé inteligenci?
Přezkum přichází v době, kdy se vlády po celém světě snaží regulovat rychle rostoucí sektor umělé inteligence. Vyšetřování FTC se zaměřuje zejména na dodržování zákona COPPA (Child from Opposed Online Discrimination Act), zákona přijatého v roce 1998, který upravuje způsoby, jak online služby shromažďují a používají data od dětí mladších 13 let.
Potřeba většího vykazování je částečně způsobena vysoce sledovanými právními případy, jako je ten proti OpenAI, společnosti stojící za ChatGPT. Rodina kalifornského teenagera, který spáchal sebevraždu, podala žalobu na OpenAI a tvrdila, že její chatbot zhoršil předchozí problémy s duševním zdravím dospívajícího tím, že nabídl zdánlivě uklidňující odpovědi na úzkostné a sebedestruktivní myšlenky. Tento tragický incident přiměl OpenAI k implementaci dalších bezpečnostních opatření a rodičovské kontroly pro mladší uživatele.
Zvýšená pozornost věnovaná tomuto tématu signalizuje rostoucí povědomí o složitých etických a bezpečnostních otázkách, které představují chatboti s umělou inteligencí, zejména pokud jde o jejich potenciální dopad na zranitelné mladé publikum.
