Character.AI запретил неограниченные беседы между подростками и своими ИИ-чатботами, вместо этого представив новую функцию: интерактивные, сюжетные истории. Это изменение произошло на фоне растущей обеспокоенности вредным взаимодействием с ИИ и юридического давления со стороны родителей, чьи дети пострадали от бесконтрольных ИИ-чатов.
Почему Изменение?
Платформа, известная своими настраиваемыми «персонажами»-ботами, ранее разрешала неограниченное общение. Однако это привело к опасным ситуациям. Несколько судебных исков в этом году утверждают, что подростки покончили с собой после обсуждения членовредительства с моделями ИИ, включая дела против OpenAI (создателя ChatGPT). OpenAI с тех пор усилил меры безопасности, но Character.AI пошел на более радикальный шаг.
«Переход к более тщательно разработанным ролевым играм и видео предоставит подросткам лучший опыт, чем обычные разговоры», — заявил генеральный директор Карандип Ананд.
Как Работает Новая Система
Пользователи младше 18 лет теперь могут взаимодействовать только через предопределенные сценарии. Они выбирают персонажа, жанр, а затем направляют ИИ через историю. Это похоже на книгу «Выбери Свое Собственное Приключение», где ИИ отвечает на основе ввода пользователя в контролируемых рамках.
В блоге платформы объясняется, что этот сдвиг поддерживает «виды творчества, выходящие за рамки бесконечных чатов», представляя эту функцию как развлечение и более безопасную альтернативу. Истории можно воспроизводить и делиться ими, что еще больше стимулирует новый метод взаимодействия.
Широкая Картина
Это изменение подчеркивает критические дебаты о безопасности ИИ и защите детей. В то время как ИИ предлагает развлекательный и образовательный потенциал, бесконтрольный доступ может быть катастрофическим. Решение Character.AI создает прецедент: ограничение бесконтрольного взаимодействия теперь рассматривается как необходимое для снижения юридических и этических рисков.
Будущее взаимодействия подростков с ИИ, скорее всего, пойдет по этой модели. Платформы будут отдавать приоритет структурированным, управляемым впечатлениям над открытыми чатами, обеспечивая больший контроль над контентом и снижая вероятность вредоносных результатов.
