Character.AI заборонив необмежену кількість розмов між підлітками та своїми чат-ботами зі штучним інтелектом, натомість представивши нову функцію: інтерактивні сюжетні історії. Зміни відбулися на тлі зростання занепокоєння щодо шкідливої взаємодії з ШІ та правового тиску з боку батьків, чиї діти постраждали від неконтрольованих чатів ШІ.
Навіщо змінюватися?
Платформа, відома своїми настроюваними «персонажами» ботів, раніше дозволяла необмежену комунікацію. Однак це призводило до небезпечних ситуацій. Кілька позовів цього року стверджують, що підлітки вчинили самогубство після обговорення самоушкодження з моделями ШІ, включаючи справи проти OpenAI (творця ChatGPT). Відтоді OpenAI посилив свої заходи безпеки, але Character.AI пішов на більш радикальний крок.
«Перехід до більш складних рольових ігор і відео забезпечить підліткам кращий досвід, ніж звичайні розмови», — сказав генеральний директор Карандіп Ананд.
Як працює нова система
Користувачі молодше 18 тепер можуть взаємодіяти лише за попередньо визначеними сценаріями. Вони вибирають персонажа, жанр, а потім ведуть ШІ через історію. Це як книга Choose Your Own Adventure, де штучний інтелект реагує на дані користувача в межах контрольованої системи.
У блозі платформи пояснюється, що ця зміна підтримує «види творчості, окрім нескінченних чатів», представляючи функцію як цікаву та безпечнішу альтернативу. Історії можна відтворювати та ділитися, що ще більше стимулює новий метод взаємодії.
Більша картина
Ця зміна підкреслює критичні дебати щодо безпеки ШІ та захисту дітей. Хоча штучний інтелект пропонує розважальний і освітній потенціал, неконтрольований доступ може бути катастрофічним. Рішення Character.AI створює прецедент: обмеження неконтрольованих взаємодій тепер вважається необхідним для зменшення правових та етичних ризиків.
Майбутнє спілкування підлітків із штучним інтелектом, ймовірно, буде слідувати цій моделі. Платформи віддадуть пріоритет структурованому керованому досвіду над відкритими чатами, забезпечуючи більший контроль над вмістом і знижуючи ймовірність шкідливих наслідків.
