Ми оточені ними. Вони підмітають наші підлоги. Вони керують нашими автомобілями. Вони керують запасами на великих складах. Машини, що навчаються, і штучний інтелект більше не є концепціями з наукової фантастики. Вони стали повсякденною реальністю. Їхні можливості вдосконалюються. Вони з лякаючою точністю імітують людське пізнання. Але у повітрі витає питання. Наскільки насправді людськими є ці машинні мізки? І чи може ця імітація стати небезпечною?
Відповідь непроста. Він вимагає глянути межі хайпа. Нам слід зрозуміти механіку.
Ілюзія людиноподібного інтелекту
Багато хто припускає, що якщо машина може впізнати кішку або проїхати шосе, вона «розуміє» світ так само, як людина. Це припущення помилкове. Це небезпечне спрощення.
Айке Хюллермайер, дослідник ІІ в Університеті Падерборна, пропонує бути обережними з цим ярликом. Системи, що використовуються, не думають. Вони обчислюють ймовірність. Вони зіставляють патерни в масштабах, які людина не може збагнути. Але висновок може виглядати напрочуд людським.
«Їхні навички стають все ближчими до людських», — зазначає Хюллермайєр. Але близькість не тотожна ідентичності.
Ця різниця має значення. Коли робот-пилосос переміщається вашою вітальнею, він не «вибирає» шлях на основі логіки або переваг. Він обробляє дані з датчиків, щоб уникнути зіткнень. Він ефективний. Він не має свідомості. Однак у міру того, як ці системи беруть на себе складніші завдання, грань розмивається.
Чому це важливо для звичайних користувачів
Небезпека полягає не у повстанні роботів. Вона тонша. Вона стосується довіри. Коли системи ІІ поводяться так, що “виглядає” як намір, користувачі приписують їм наміри. Це призводить до помилкової довіри.
Якщо безпілотний автомобіль приймає рішення, яке здається “розумним” в одній ситуації, користувачі можуть припустити, що воно також “розумне” в новій екстремальній ситуації. Це негаразд. Система працює у межах конкретного набору для навчання. За межами цього кордону він дає збій.
Розуміння обмежень поточних технологій має вирішальне значення. Нам потрібно знати, що можуть робити ці інструменти. Нам потрібно знати, чого вони не можуть.
Де лежать ризики
Ризик полягає не в зловмисності. В ІІ немає бажань. Ризик полягає у розбіжності цілей.
- Надмірна залежність: Люди делегують алгоритмам право прийняття рішень. Коли алгоритм помиляється, людини немає поряд, щоб виправити це.
- Непрозорість: Ми часто не знаємо, чому модель прийняла конкретне рішення. Це проблема «чорної скриньки».
- Зміщення даних: Ці системи навчаються на історичних даних. Якщо ці дані містять людські забобони, ІІ посилює їх.
Робота Хюллермайєра в Університеті Падерборна зосереджена на тому, щоб зробити ці системи більш надійними. Прозорішими. Менш схильні до помилок. Але технології розвиваються швидше, ніж регулювання. Швидше, ніж суспільне розуміння.
Головне питання
Тож вони людські? Ні. Це складні статистичні машини. Але оскільки їхній висновок у багатьох завданнях стає невідмінним від людської продуктивності, психологічний вплив реальний. Ми ставимося до них як до рівних. Не повинні.
Питання не в тому, чи вони замінять нас. Питання в тому, чи довірятимемо їм настільки, щоб передати їм кермо. І в тому, чи будуть вони
Розшифровка «чорної скриньки»: як насправді працюють нейронні мережі
Ми вже живемо всередині машини, хочемо ми цього чи ні. Ця тенденція більше не прихована. Комп’ютери, що навчаються, переходять від лабораторних експериментів до ролі основи нашої економіки та повсякденного життя.
Чому саме зараз? Дві причини. Покращені архітектури програмного забезпечення, такі як нейронні мережі. І апаратне забезпечення, яке нарешті встигає за зростаючим апетитом до даних.
Машини виконують основну роботу. Ви бачите це у віртуальних помічниках. Ви бачите це у промислових роботах. Ймовірно, ви побачите це у майбутньому охорони здоров’я за допомогою роботизованих засобів догляду за хворими. Але існує розрив між використанням інструменту та розумінням його принципів роботи. Як насправді “думають” ці “машинні мізки”? Чи ми створюємо щось, що незабаром перевершить наше власне пізнання?
Айке Хюллермайєр, який очолює кафедру інтелектуальних систем та машинного навчання в Університеті Падерборна, розбирає механіку цього процесу. Він також розглядає, що ця технологія розкриває про нашу поведінку і куди вона рухається.
Визначення невимовного
Почнемо із найскладнішої частини: визначення.
Künstliche Intelligenz (Штучний інтелект) – це не просто підрозділ комп’ютерних наук. Це хаотичний перетин областей. Вона торкається математики. Інженерію. Психологію. нейробіологію. Біологію. Філософію. Лінгвістику.
Немає точного, загальноприйнятого визначення. Марвін Мінськ, один із засновників цієї галузі, запропонував прагматичний підхід: це наука про створення машин, здатних виконувати дії, для яких потрібен людський інтелект.
Але це породжує наступне, неприємне питання. Що насправді таке людський інтелект?
Сьогодні переважна думка зосереджена на агентах, вирішальних завдання. Ці системи діють раціонально задля досягнення мети. Але їм також потрібні «людські» риси. Здатність до навчання. Автономність. Відмовостійкість. Ці якості відрізняють їх від стандартного, жорсткого програмного забезпечення.
Коли ми реалізуємо ці підходи до реального використання, ми називаємо їх інтелектуальними системами.
“Künstliche Intelligenz ist die Wissenschaft, Maschinen die Dinge tun zu lassen, für die ein Mensch Intelligenz benötigen würde.” – Марвін Мінськ
Це визначення має намір широке. Інтелектуальна система може бути апаратною. Наприклад, роботизована рука, що збирає автомобілі. Або вона може бути суто програмною. Наприклад, система рекомендацій, що пропонує вам наступну серію шоу, про яке ви навіть не підозрювали.
Кордон між апаратним та програмним забезпеченням розмивається. Відмінність має менше значення, ніж результат. Чи може вона вчитися? Чи може адаптуватись? Якщо відповідь так, то це частина зсуву. І це зрушення відбувається швидко.
Слабкий ІІ проти сильного ІІ: розуміння різниці
Спосіб класифікації штучного інтелекту — це не просто академічна суперечка заради суперечки. Він визначає те, що ви можете реально очікувати від технології у вашій кишені чи на робочому місці. Дослідники ділять ІІ на дві основні категорії: слабкий ІІ та сильний ІІ.
Слабкий ІІ оточує нас всюди. Він імітує інтелектуальну поведінку до виконання конкретних завдань. Згадайте розпізнавання мови або алгоритмічну рекламу, що з’являється у вашій стрічці. Машина не “думає”. Вона просто виконує певну функцію із високою точністю.
Сильний ІІ – це зовсім інша історія. Він має на увазі свідомість. Емпатію. Самостійні події. Це та версія ІІ, яка має універсальний інтелект. Вона відповідає людським когнітивним навичкам або перевершує їх. Ми ще не створили такої ШІ. Ми все ще розуміємо першу категорію.
Перехід від правил до даних
Якщо озирнутися на 1980-ті та 1990-ті роки, підхід до створення інтелектуальних систем був радикально іншим. На той час панували експертні системи.
Мета була простою, але амбітною: формалізувати людський досвід. Вони використовували базові правила «якщось».
«Вони намагалися зробити людські знання доступними для логічного оброблення комп’ютером, перетворюючи їх у прості умовні правила».
Це було очевидне програмування. Ви точно вказували машині, як думати. Якщо відбувається X, то зроби Y. Це працювало для вузьких областей. Медична діагностика Геологорозвідка. Але система вперлася у стіну. Вона не могла впоратися з хаотичною, неструктурованою реальністю світу.
Машинне навчання бере управління на себе
Сьогодні ландшафт повністю домінує “машинне навчання”.
Парадигма повністю змінилася. Ми більше не програмуємо поведінку. Ми навчаємо системи на основі емпіричних даних. ІІ взаємодіє зі своїм середовищем. Він генерує точки даних. Він навчається.
В результаті виходить система, яка покращує свою продуктивність з урахуванням досвіду. Не тому, що програміст написав довший список правил. А тому, що модель скоригувала свої внутрішні ваги після перегляду мільйонів прикладів. Це є основою сучасних фундаментальних досліджень. І це змінює все: від того, як ми пишемо код до того, як ми живемо.
Машини беруть на себе завдання, які раніше були виключною територією людини. Однак це порівняння некоректне. Людина та машина не є дзеркальними відображеннями один одного. Їхні сильні сторони доповнюють один одного.
Машини обчислюють із високою точністю. Вони обробляють інформацію логічно послідовно. Вони шукають систематично. Вони шукають завзято. Вони знаходять закономірності у високоскладних даних, які людське око не помічає.
Але вони крихкі.
У прямому порівнянні з людиною машинам не вистачає надійності. Їм не вистачає здорового глузду. Системи штучного інтелекту дуже спеціалізовані. Вони чудово справляються з одним завданням. Однак це вміння ізольоване. Воно не вбудоване у повсякденні знання.
Машина може добре робити кілька речей. Людина справляється з багатьма завданнями більш менш успішно. У цьому різниця.
Чому люди можуть навчитися у ІІ?
Питання, чому люди можуть навчитися біля машин, звучить дивно. Він нагадує питання, чому птахи можуть навчитися у літаків.
Насправді прагнуть зробити машини «людськішими». А чи не навпаки.
Однак ця дискусія має побічні ефекти. Ми говоримо про раціональність. Ми говоримо про справедливість. Про властивості, які ми очікуємо від машин. Ця дискусія змушує нас піддавати себе самокритиці.
ІІ відображає нашу поведінку. Він виявляє закономірності, які ми не бачимо.
ІІ може багато розповісти нам про нашу власну поведінку.
приклад. Метод машинного навчання використовує рішення судді як навчальні дані. Він будує передиктивну модель. Ціль: прозорість.
Умова: модель має бути інтерпретованою. Якщо так, то стає очевидним процес ухвалення рішень суддею. Стає видимим упередженість. Стають видимими логічні прогалини.
Де знаходиться ІІ сьогодні?
Області застосування здаються нескінченними. Насправді, це майже повсюдно.
ІІ проник усюди. Майже у всіх галузях.
Відомі приклади очевидні. Інтелектуальні системи у промисловому контексті. Роботи. Інтелектуальні системи технічного обслуговування у виробництві. Ключове слово: Промисловість 4.0.
Системи поради від Google. Від Amazon. Персоналізація. Це повсюдно.
Автономне водіння. Досі у процесі. Ще не вирішено повністю. Але є.
Також у медицині наступ ІІ очевидний.
Цікаве, але значною мірою відкрите питання у тому, коли ІІ досягне рівня зрілості, який поставить його однією щабель з людиною в когнітивному плані.
Прикладні дослідження рухають це вперед. В Інноваційному кампусі програмного забезпечення в Падерборні (SICP). В галузі компетенції «Розумні системи».
SICP функціонує як сполучна ланка. Між наукою та промисловістю. Разом із компаніями розробляються рішення. Для проблем із промислової практики.
Ціль: підвищити ефективність виробництва. Конкретні проблеми. Конкретні відповіді
Прогнози розвитку ІІ регулярно виявляються невірними. У минулому. Сьогодні ситуація не змінилася. Технічний розвиток відбувається надто стрімко.
Одне точно. Вплив на всі сфери нашого життя величезний. на суспільство.
Чи виявиться ІІ колись на одному рівні з людиною в когнітивному плані? Чи це вдається взагалі?
Відповідь залишається відкритою.
Професор Ерхард Хюллермайєр не очікує на появу «вбивчих роботів» найближчим часом. Ідея про те, що штучний інтелект набуде власної волі і почне прагнути світового панування, — це наукова фантастика. До цього ще дуже далеко. Реальна ситуація набагато прозаїчніша. І, можливо, більш значуща.
ІІ як допоміжний інструмент. Саме тут полягає його поточна корисність. Він розширює людські здібності. Візьмемо, наприклад, медичну діагностику. Лікар отримує “другу пару очей”, яка не втомлюється. Експертиза стає гострішою. Планування терапії більш точним. У промисловому виробництві рутинні та виснажливі завдання повністю передаються машинам. Результат? Відчутне зростання якості життя.
«ІІ може допомогти нам впоратися з багатьма ключовими викликами сучасності, будь то зміна клімату, глобальна продовольча безпека чи боротьба із хворобами».
Виклики, з якими ми стикаємося, є масштабними. Зміна клімату. Продовольча безпека для всього світу. Ліквідація хвороб. Ми не можемо вирішити їх поодинці. Але з ІІ наші шанси значно зростають. Він обробляє дані у масштабах, недоступних людині. Він виявляє закономірності у хаосі. Не магія. Це просто досконаліша математика.
Правовий та етичний вакуум
Без ризиків немає можливостей. Це аксіома. Але специфіка цих ризиків часто розуміється неправильно. Не йдеться про «Скайнет». Йдеться про бюрократію. І про право.
Багато критичних питань залишаються юридично невирішеними. Правова база відстає від технологій. Хто відповідає, якщо автономна система робить помилку? Програміст? Користувач? Сам алгоритм? Чітких відповідей поки що немає.
Соціальні наслідки туманні. Візьмемо Китай. Системи соціального рейтингу вже працюють. Вони надають громадянам рівень надійності. Це спричиняє серйозні етичні побоювання. Але річ не лише в авторитарних режимах. Це і на демократичних ринках.
Згадайте схвалення кредитів. Або обробку заявок на працевлаштування в агентствах із зайнятості. Комп’ютери ухвалюють ці рішення зараз. Кожен громадянин потенційно торкається. Справедливість не гарантовано. Прозорість часто відсутня. Дискримінація може бути закладена у дані. І якщо ви не розумієте модель, ви не можете протистояти їй.
Коли контроль вислизає
Небезпека полягає не у повстанні роботів. Вона – в автономності. Зокрема, у системах, які діють поза людським контролем.
Подивіться на алгоритмічну торгівлю. Мілісекунди. Ось часовий проміжок. Мільйони євро переміщуються за частки секунди. Системи настільки швидкі та складні, що люди не можуть втрутитися у режимі реального часу. Ми спостерігаємо за графіками. Ми сподіваємося на краще.
Фінансові кризи? Вони погані. Вони завдають страждань. Але вони бліднуть і натомість інших автономних систем. Автономна зброя. Летальна сила, яка розв’язується кодом. Жоден людський палець не стосується спускового гачка. Запустивши цей процес, чи зможете його зупинити?
«Фінансові ризики, такі як обвали ринків, здаються майже незначними порівняно з небезпеками автономних систем зброї».
Ми вже маємо справу із системами, які не піддаються повному контролю. Вони навчаються. Адаптуються. Еволюціонують методами, що їх творці передбачали в повному обсязі. Ми вважаємо, що контролюємо їх. Але часто ми цього контролю не маємо.
Питання не в тому, чи змінить ІІ світ. Він уже зрадив його. Питання, чи зможемо ми втримати кермо, коли автомобіль почне їхати сам. Ми ще не знайшли відповіді на це запитання.
