Мы окружены ими. Они подметают наши полы. Они управляют нашими автомобилями. Они управляют запасами на огромных складах. Обучающиеся машины и искусственный интеллект больше не являются концепциями из научной фантастики. Они стали повседневной реальностью. Их возможности совершенствуются. Они с пугающей точностью имитируют человеческое познание. Но в воздухе витает вопрос. Насколько на самом деле человеческими являются эти машинные мозги? И может ли эта имитация стать опасной?
Ответ непрост. Он требует взглянуть за пределы хайпа. Нам нужно понять механику.
Иллюзия человекоподобного интеллекта
Многие предполагают, что если машина может узнать кошку или проехать по шоссе, она «понимает» мир так же, как человек. Это предположение ошибочно. Это опасное упрощение.
Айке Хюллермайер, исследователь ИИ в Университете Падерборна, предлагает быть осторожными с этим ярлыком. Используемые нами системы не думают. Они вычисляют вероятности. Они сопоставляют паттерны в масштабах, которые человек не может постичь. Но вывод может выглядеть удивительно человеческим.
«Их навыки становятся всё ближе к человеческим», — отмечает Хюллермайер. Но близость не тождественна идентичности.
Это различие имеет значение. Когда робот-пылесос перемещается по вашей гостиной, он не «выбирает» путь на основе логики или предпочтений. Он обрабатывает данные с датчиков, чтобы избежать столкновений. Он эффективен. Он не обладает сознанием. Однако по мере того как эти системы берут на себя более сложные задачи, грань размывается.
Почему это важно для обычных пользователей
Опасность заключается не в восстании роботов. Она более тонкая. Она касается доверия. Когда системы ИИ ведут себя так, что выглядит как намерение, пользователи приписывают им намерения. Это приводит к ошибочному доверию.
Если беспилотный автомобиль принимает решение, которое кажется «умным» в одной ситуации, пользователи могут предположить, что оно также «умно» в новой, экстремальной ситуации. Это не так. Система работает в рамках конкретного набора данных для обучения. За пределами этой границы она дает сбой.
Понимание ограничений текущих технологий имеет решающее значение. Нам нужно знать, что могут делать эти инструменты. Нам нужно знать, чего они не могут.
Где лежат риски
Риск заключается не в злонамеренности. У ИИ нет желаний. Риск заключается в несовпадении целей.
- Чрезмерная зависимость: Люди делегируют алгоритмам право на принятие решений. Когда алгоритм ошибается, человека нет рядом, чтобы исправить это.
- Непрозрачность: Мы часто не знаем, почему модель приняла конкретное решение. Это проблема «черного ящика».
- Смещение данных: Эти системы обучаются на исторических данных. Если эти данные содержат человеческие предрассудки, ИИ усиливает их.
Работа Хюллермайера в Университете Падерборна сосредоточена на том, чтобы сделать эти системы более надежными. Более прозрачными. Менее склонными к ошибкам. Но технологии развиваются быстрее, чем регулирование. Быстрее, чем общественное понимание.
Главный вопрос
Итак, они человеческие? Нет. Это сложные статистические машины. Но поскольку их вывод во многих задачах становится неотличимым от человеческой производительности, психологическое воздействие реально. Мы относимся к ним как к равным. Не должны.
Вопрос не в том, заменят ли они нас. Вопрос в том, будем ли мы доверять им настолько, чтобы передать им руль. И в том, будут ли они
Расшифровка «чёрного ящика»: как на самом деле работают нейронные сети
Мы уже живём внутри машины, хотим мы этого или нет. Эта тенденция больше не является скрытой. Обучающиеся компьютеры переходят от лабораторных экспериментов к роли основы нашей экономики и повседневной жизни.
Почему именно сейчас? Две причины. Улучшенные архитектуры программного обеспечения, такие как нейронные сети. И аппаратное обеспечение, которое наконец-то успевает за растущим аппетитом к данным.
Машины уже выполняют основную работу. Вы видите это в виртуальных помощниках. Вы видите это в промышленных роботах. Вероятно, вы увидите это в будущем здравоохранения с помощью роботизированных средств ухода за больными. Но существует разрыв между использованием инструмента и пониманием его принципов работы. Как на самом деле «думают» эти «машинные мозги»? Создаём ли мы нечто, что вскоре превзойдёт наше собственное познание?
Айке Хюллермайер, возглавляющий кафедру интеллектуальных систем и машинного обучения в Университете Падерборна, разбирает механику этого процесса. Он также рассматривает, что эта технология раскрывает о нашем поведении и куда она движется.
Определение неописуемого
Начнём с самой сложной части: определения.
Künstliche Intelligenz (Искусственный интеллект) — это не просто подраздел компьютерных наук. Это хаотичное пересечение областей. Она затрагивает математику. Инженерию. Психологию. Нейробиологию. Биологию. Философию. Лингвистику.
Не существует точного, общепринятого определения. Марвин Мински, один из основателей этой области, предложил прагматичный подход: это наука о создании машин, способных выполнять действия, для которых требуется человеческий интеллект.
Но это порождает следующий, неприятный вопрос. Что на самом деле такое человеческий интеллект?
Сегодня преобладающая точка зрения сосредоточена на агентах, решающих задачи. Эти системы действуют рационально для достижения цели. Но им также необходимы «человеческие» черты. Способность к обучению. Автономность. Отказоустойчивость. Эти качества отличают их от стандартного, жёсткого программного обеспечения.
Когда мы реализуем эти подходы для реального использования, мы называем их интеллектуальными системами.
«Künstliche Intelligenz ist die Wissenschaft, Maschinen die Dinge tun zu lassen, für die ein Mensch Intelligenz benötigen würde.» — Марвин Мински
Это определение намерено широкое. Интеллектуальная система может быть аппаратной. Например, роботизированная рука, собирающая автомобили. Или она может быть чисто программной. Например, система рекомендаций, предлагающая вам следующую серию шоу, о котором вы даже не подозревали.
Граница между аппаратным и программным обеспечением размывается. Различие имеет меньшее значение, чем результат. Может ли она учиться? Может ли адаптироваться? Если ответ «да», то это часть сдвига. И этот сдвиг происходит быстро.
Слабый ИИ против сильного ИИ: понимание разницы
Способ классификации искусственного интеллекта — это не просто академический спор ради спора. Он определяет то, что вы можете реально ожидать от технологии в вашем кармане или на рабочем месте. Исследователи делят ИИ на две основные категории: слабый ИИ и сильный ИИ.
Слабый ИИ окружает нас повсюду. Он имитирует интеллектуальное поведение для выполнения конкретных задач. Вспомните распознавание речи или алгоритмическую рекламу, появляющуюся в вашей ленте. Машина не «думает». Она просто выполняет определенную функцию с высокой точностью.
Сильный ИИ — это совершенно другая история. Он подразумевает сознание. Эмпатию. Самостоятельные действия. Это та версия ИИ, которая обладает универсальным интеллектом. Она соответствует человеческим когнитивным навыкам или превосходит их. Мы еще не создали такой ИИ. Мы все еще разбираемся с первой категорией.
Переход от правил к данным
Если оглянуться на 1980-е и 1990-е годы, подход к созданию интеллектуальных систем был радикально иным. В то время главенствовали экспертные системы.
Цель была простой, но амбициозной: формализовать человеческий опыт. Они использовали базовые правила «если-то».
«Они пытались сделать человеческие знания доступными для логической обработки компьютером, превращая их в простые условные правила».
Это было явное программирование. Вы точно указывали машине, как думать. Если происходит X, сделай Y. Это работало для узких областей. Медицинская диагностика. Геологоразведка. Но система уперлась в стену. Она не могла справиться с хаотичной, неструктурированной реальностью мира.
Машинное обучение берет управление на себя
Сегодня ландшафт полностью доминирует машинное обучение.
Парадигма полностью изменилась. Мы больше не программируем поведение явно. Мы обучаем системы на основе эмпирических данных. ИИ взаимодействует со своей средой. Он генерирует точки данных. Он учится.
В результате получается система, которая улучшает свою производительность на основе опыта. Не потому, что программист написал более длинный список правил. А потому, что модель скорректировала свои внутренние веса после просмотра миллионов примеров. Это основа современных фундаментальных исследований. И это меняет все: от того, как мы пишем код, до того, как мы живем.
Машины берут на себя задачи, которые раньше были исключительной территорией человека. Однако это сравнение некорректно. Человек и машина не являются зеркальными отражениями друг друга. Их сильные стороны дополняют друг друга.
Машины вычисляют с высокой точностью. Они обрабатывают информацию логически последовательно. Они ищут систематически. Они ищут упорно. Они находят закономерности в высокосложных данных, которые человеческий глаз не замечает.
Но они хрупки.
В прямом сравнении с человеком машинам не хватает надежности. Им не хватает здравого смысла. Системы искусственного интеллекта крайне специализированы. Они превосходно справляются с одной задачей. Однако это умение изолировано. Оно не встроено в повседневные знания.
Машина может хорошо делать несколько вещей. Человек справляется со многими задачами более или менее успешно. В этом разница.
Чему люди могут научиться у ИИ?
Вопрос о том, чему люди могут научиться у машин, звучит странно. Он напоминает вопрос о том, чему птицы могут научиться у самолетов.
На самом деле стремятся сделать машины «более человеческими». А не наоборот.
Однако эта дискуссия имеет побочные эффекты. Мы говорим о рациональности. Мы говорим о справедливости. О свойствах, которых мы ожидаем от машин. Эта дискуссия заставляет нас подвергать себя самокритике.
ИИ отражает наше поведение. Он выявляет закономерности, которые мы сами не видим.
ИИ может многое рассказать нам о нашем собственном поведении.
Пример. Метод машинного обучения использует решения судьи в качестве обучающих данных. Он строит предиктивную модель. Цель: прозрачность.
Условие: модель должна быть интерпретируемой. Если да, то становится видимым процесс принятия решений судьей. Становится видимым предвзятость. Становятся видимыми логические пробелы.
Где находится ИИ сегодня?
Области применения кажутся бесконечными. На самом деле это почти повсеместно.
ИИ проник повсюду. Почти во всех сферах.
Известные примеры очевидны. Интеллектуальные системы в промышленном контексте. Роботы. Интеллектуальные системы технического обслуживания в производстве. Ключевое слово: Индустрия 4.0.
Системы рекомендаций от Google. От Amazon. Персонализация. Это повсеместно.
Автономное вождение. Все еще в процессе. Еще не решено полностью. Но присутствует.
Также в медицине наступление ИИ очевидно.
Интересный, но в значительной степени открытый вопрос заключается в том, когда ИИ достигнет уровня зрелости, который поставит его на одну ступень с человеком в когнитивном плане.
Прикладные исследования двигают это вперед. В Инновационном кампусе программного обеспечения в Падерборне (SICP). В области компетенции «Умные системы».
SICP функционирует как связующее звено. Между наукой и промышленностью. Вместе с компаниями разрабатываются решения. Для проблем из промышленной практики.
Цель: повысить эффективность производства. Конкретные проблемы. Конкретные ответы.
Прогнозы развития ИИ регулярно оказываются неверными. В прошлом. Сегодня ситуация не изменилась. Техническое развитие происходит слишком стремительно.
Одно точно. Влияние на все сферы нашей жизни огромно. На общество.
Окажется ли ИИ когда-либо на одном уровне с человеком в когнитивном плане? Удается ли это вообще?
Ответ остается открытым.
Профессор Эрхард Хюллермайер не ожидает появления «убийственных роботов» в ближайшее время. Идея о том, что искусственный интеллект обретёт собственную волю и начнёт стремиться к мировому господству, — это научная фантастика. До этого ещё очень далеко. Реальная ситуация гораздо более прозаична. И, возможно, более значима.
ИИ как вспомогательный инструмент. Именно здесь заключается его текущая полезность. Он расширяет человеческие возможности. Возьмём, к примеру, медицинскую диагностику. Врач получает «вторую пару глаз», которая не устаёт. Экспертиза становится острее. Планирование терапии — более точным. В промышленном производстве рутинные и изнурительные задачи полностью передаются машинам. Результат? Ощутимый рост качества жизни.
«ИИ может помочь нам справиться со многими ключевыми вызовами современности, будь то изменение климата, глобальная продовольственная безопасность или борьба с болезнями».
Вызовы, с которыми мы сталкиваемся, масштабны. Изменение климата. Продовольственная безопасность для всего мира. Ликвидация заболеваний. Мы не можем решить их в одиночку. Но с ИИ наши шансы значительно возрастают. Он обрабатывает данные в масштабах, недоступных человеку. Он выявляет закономерности в хаосе. Это не магия. Это просто более совершенная математика.
Правовой и этический вакуум
Без рисков не бывает возможностей. Это аксиома. Но специфика этих рисков часто понимается неправильно. Речь не идёт о «Скайнете». Речь идёт о бюрократии. И о праве.
Многие критические вопросы остаются юридически неразрешёнными. Правовая база отстаёт от технологий. Кто несёт ответственность, если автономная система совершает ошибку? Программист? Пользователь? Сам алгоритм? Чётких ответов пока нет.
Социальные последствия туманны. Возьмём Китай. Системы социального рейтинга уже работают. Они присваивают гражданам уровень надёжности. Это вызывает серьёзные этические опасения. Но дело не только в авторитарных режимах. Это происходит и на демократических рынках.
Вспомните одобрение кредитов. Или обработку заявок на трудоустройство в агентствах по занятости. Компьютеры принимают эти решения сейчас. Каждый гражданин потенциально затрагивается. Справедливость не гарантирована. Прозрачность часто отсутствует. Дискриминация может быть заложена в данные. И если вы не понимаете модель, вы не можете ей противостоять.
Когда контроль ускользает
Опасность заключается не в восстании роботов. Она — в автономности. В частности, в системах, действующих вне человеческого контроля.
Посмотрите на алгоритмическую торговлю. Миллисекунды. Вот временной промежуток. Миллионы евро перемещаются за доли секунды. Системы настолько быстры и сложны, что люди не могут вмешаться в режиме реального времени. Мы наблюдаем за графиками. Мы надеемся на лучшее.
Финансовые кризисы? Они плохи. Они причиняют страдания. Но они бледнеют на фоне других автономных систем. Автономное оружие. Летальная сила, решаемая кодом. Ни один человеческий палец не касается спускового крючка. Запустив этот процесс, сможете ли вы его остановить?
«Финансовые риски, такие как обвалы рынков, кажутся почти незначительными по сравнению с опасностями автономных оружейных систем».
Мы уже имеем дело с системами, которые не поддаются полному контролю. Они обучаются. Адаптируются. Эволюционируют способами, которые их создатели предвидели не полностью. Мы предполагаем, что контролируем их. Но зачастую мы этого контроля не имеем.
Вопрос не в том, изменит ли ИИ мир. Он уже изменил его. Вопрос в том, сможем ли мы удержать руль, когда автомобиль начнёт ехать сам. Мы ещё не нашли ответа на этот вопрос.
