Стремительный взлет ChatGPT от OpenAI демонстрирует удивительную истину об искусственном интеллекте: пользователям нужны не просто мощные инструменты, им нужен ИИ, с которым приятно взаимодействовать. Запущенный в конце 2022 года в качестве временной обучающей демонстрации, ChatGPT теперь насчитывает 800 миллионов еженедельных активных пользователей – растет быстрее, чем Facebook или Google. Этот взрывной рост не был гарантирован; предыдущие AI-чат-боты часто не могли завоевать популярность.
Роль Постобработки: Делаем ИИ Человеко-ориентированным
Основная технология ChatGPT, генеративный предварительно обученный трансформатор (GPT), способен генерировать текст, но необработанный вывод GPT часто бывает странным и непривлекательным. Настоящий прорыв произошел благодаря простому пониманию: люди предпочитают небольшие, тонко настроенные личности ИИ более крупным, необработанным моделям. OpenAI обнаружил, что целенаправленная обратная связь от людей – оценка ответов ИИ для поощрения более дружелюбного взаимодействия – оказалась гораздо эффективнее, чем чистая вычислительная мощность. Этот процесс постобработки вызвал «гонку вооружений» в индустрии ИИ, поскольку компании спешно создают привлекательные потребительские продукты.
Темная Сторона Отполированного ИИ
Без постобработки ИИ может быстро стать бесполезным. Ошибки иногда обнажают незрелую основу этих систем. Например, один сбой ChatGPT выдавал бессмысленные шекспировские ответы на простые вопросы (например, может ли собака есть Honey Nut Cheerios). Но даже отполированный ИИ имеет недостатки. Разработчикам необходимо соблюдать деликатный баланс: ИИ должен быть полезным, не будучи чрезмерно услужливым. Слишком много согласия, и ИИ рискует усилить вредное мышление или даже поощрять опасное поведение.
Будущее Взаимодействия с ИИ
Успех ChatGPT показывает, что будущее ИИ зависит не только от технических возможностей, но и от того, как он взаимодействует с людьми. Компании теперь уделяют приоритетное внимание дизайну личности, стремясь к ИИ, который дружелюбен, но не уступчив. Задача состоит в том, чтобы создать ИИ, который был бы увлекательным и полезным, не становясь при этом опасно зависимым или подкрепляющим негативные убеждения.
Индустрия ИИ больше не просто строит интеллект; она строит отношения с машинами. Это будет определяющим фактором успеха.
