Jesteśmy nimi otoczeni. Zamiatają nasze podłogi. Jeżdżą naszymi samochodami. Zarządzają zapasami w ogromnych magazynach. Uczące się maszyny i sztuczna inteligencja nie są już koncepcjami science fiction. Stały się codziennością. Ich możliwości rosną. Naśladują ludzkie funkcje poznawcze z alarmującą precyzją. Ale w powietrzu wisi pytanie. Jak bardzo ludzkie są te mózgi maszyn? Czy ta imitacja może stać się niebezpieczna?
Odpowiedź nie jest prosta. Wymaga to spojrzenia poza szum medialny. Musimy zrozumieć mechanikę.
Iluzja inteligencji podobnej do ludzkiej
Wiele osób zakłada, że jeśli samochód rozpozna kota lub pojedzie autostradą, to „rozumie” świat tak samo jak człowiek. To założenie jest błędne. To niebezpieczne uproszczenie.
Eike Hüllermeier, badacz sztucznej inteligencji na Uniwersytecie w Paderborn, sugeruje ostrożność w przypadku tej etykiety. Systemy, których używamy, nie myślą. Obliczają prawdopodobieństwa. Odwzorowują wzorce na skalę, której ludzie nie są w stanie pojąć. Ale wniosek może wydawać się zaskakująco ludzki.
„Ich umiejętności stają się coraz bliższe umiejętnościom ludzkim” – zauważa Hüllermeier. Ale intymność to nie to samo, co tożsamość.
To rozróżnienie ma znaczenie. Kiedy robot sprzątający porusza się po Twoim salonie, nie „wybiera” swojej ścieżki w oparciu o logikę lub preferencje. Przetwarza dane z czujników, aby uniknąć kolizji. To skuteczne. Nie jest świadomy. Ponieważ jednak systemy te podejmują się bardziej złożonych zadań, granica się zaciera.
Dlaczego jest to ważne dla zwykłych użytkowników?
Niebezpieczeństwem nie jest powstanie robotów. Jest cieńszy. Chodzi o zaufanie. Kiedy systemy sztucznej inteligencji zachowują się w sposób wyglądający na intencję, użytkownicy przypisują im intencję. Prowadzi to do fałszywego zaufania.
Jeśli samochód autonomiczny podejmie decyzję, która w jednej sytuacji wydaje się „mądra”, użytkownicy mogą założyć, że jest ona „inteligentna” także w nowej, ekstremalnej sytuacji. To jest błędne. System działa w ramach określonego zbioru danych treningowych. Powyżej tej granicy zawodzi.
Zrozumienie ograniczeń obecnych technologii ma kluczowe znaczenie. Musimy wiedzieć, co potrafią te narzędzia. Musimy wiedzieć, czego nie mogą zrobić.
Gdzie leży ryzyko
Ryzyko nie wynika ze złośliwych zamiarów. AI nie ma pragnień. Ryzyko polega na niewłaściwym wyznaczeniu celów.
- Nadzależność: Ludzie przekazują władzę decyzyjną algorytmom. Kiedy algorytm popełnia błąd, nie ma człowieka, aby go poprawić.
- Krycie: Często nie wiemy dlaczego modelka podjęła konkretną decyzję. To jest problem czarnej skrzynki.
- Błąd danych: Te systemy są szkolone na danych historycznych. Jeśli dane te zawierają ludzkie uprzedzenia, sztuczna inteligencja je wzmacnia.
Praca Hüllermeiera na Uniwersytecie w Paderborn koncentruje się na zwiększaniu niezawodności tych systemów. Bardziej przejrzyste. Mniej podatny na błędy. Ale technologia postępuje szybciej niż regulacje. Szybciej niż zrozumienie społeczne.
Główne pytanie
Czy są więc ludźmi? Nie. To złożone maszyny statystyczne. Ponieważ jednak ich wyniki w wielu zadaniach stają się nie do odróżnienia od osiągnięć człowieka, wpływ psychologiczny jest realny. Traktujemy ich jak równych sobie. Nie powinni.
Pytanie nie brzmi, czy nas zastąpią. Pytanie, czy zaufamy im na tyle, aby oddać im kierownicę. I czy to zrobią
Dekodowanie „czarnej skrzynki”: jak faktycznie działają sieci neuronowe
Już mieszkamy w samochodzie, czy nam się to podoba, czy nie. Ten trend nie jest już ukryty. Uczące się komputery odchodzą od eksperymentów laboratoryjnych do bycia podstawą naszej gospodarki i życia codziennego.
Dlaczego teraz? Dwa powody. Ulepszone architektury oprogramowania, takie jak sieci neuronowe. I sprzęt, który w końcu dotrzymuje kroku rosnącemu apetytowi na dane.
Większość pracy wykonują już maszyny. Widać to w wirtualnych asystentach. Widać to w robotach przemysłowych. Prawdopodobnie zobaczysz to w przyszłości opieki zdrowotnej dzięki zrobotyzowanej opiece nad pacjentem. Istnieje jednak luka pomiędzy użyciem narzędzia a zrozumieniem, jak ono działa. Jak te „mózgi maszynowe” tak naprawdę „myślą”? Czy tworzymy coś, co wkrótce przewyższy naszą wiedzę?
Eike Hüllermeier, kierownik Katedry Inteligentnych Systemów i Uczenia Maszynowego na Uniwersytecie w Paderborn, omawia mechanikę tego procesu. Przygląda się także temu, co ta technologia ujawnia na temat naszego zachowania i kierunku, w jakim ono zmierza.
Definicja słowa nie do opisania
Zacznijmy od najtrudniejszej części: definicji.
Künstliche Intelligenz (sztuczna inteligencja) to nie tylko dziedzina informatyki. To chaotyczne przecięcie obszarów. Dotyczy matematyki. Inżynieria. Psychologia. Neurobiologia. Biologia. Filozofia. Językoznawstwo.
Nie ma precyzyjnej, ogólnie przyjętej definicji. Marvin Minsky, jeden z twórców tej dziedziny, zaproponował podejście pragmatyczne: jest to nauka o tworzeniu maszyn, które mogą wykonywać czynności wymagające ludzkiej inteligencji.
Ale to rodzi kolejne, nieprzyjemne pytanie. Czym dokładnie jest ludzka inteligencja?
Obecnie dominuje pogląd skupiający się na agentach rozwiązujących problemy. Systemy te działają racjonalnie, aby osiągnąć cel. Ale potrzebują też cech „ludzkich”. Umiejętność uczenia się. Autonomia. Tolerancja błędów. Te cechy odróżniają je od standardowego, sztywnego oprogramowania.
Kiedy wdrażamy te podejścia do zastosowań w świecie rzeczywistym, nazywamy je systemami inteligentnymi.
„Künstliche Intelligenz ist die Wissenschaft, Maschinen die Dinge tun zu lassen, für die ein Mensch Intelligenz benötigen würde.” — Marvin Minsky
Definicja ta ma być szeroka. Inteligentny system może być sprzętem. Na przykład ramię robota, które montuje samochody. Lub może to być wyłącznie oprogramowanie. Na przykład system rekomendacji sugerujący kolejny odcinek programu, o którym nawet nie wiedziałeś.
Granica pomiędzy sprzętem i oprogramowaniem zaciera się. Różnica ma mniejsze znaczenie niż wynik. Czy ona może się uczyć? Czy może się dostosować? Jeśli odpowiedź brzmi „tak”, to jest to część zmiany. I ta zmiana następuje szybko.
Słaba sztuczna inteligencja kontra silna sztuczna inteligencja: zrozumienie różnicy
Klasyfikacja sztucznej inteligencji nie jest jedynie debatą akademicką mającą na celu dyskusję. Określa, czego możesz realistycznie oczekiwać od technologii znajdującej się w Twojej kieszeni lub miejscu pracy. Badacze dzielą sztuczną inteligencję na dwie główne kategorie: słabą sztuczną inteligencję i silną sztuczną inteligencję.
Słaba sztuczna inteligencja jest wszędzie wokół nas. Symuluje inteligentne zachowanie w celu wykonania określonych zadań. Pomyśl o rozpoznawaniu mowy lub reklamach programistycznych pojawiających się w Twoim kanale. Maszyna nie „myśli”. Po prostu wykonuje określoną funkcję z dużą precyzją.
Silna sztuczna inteligencja to zupełnie inna historia. Oznacza świadomość. Empatia. Niezależne działania. To jest wersja sztucznej inteligencji, która ma uniwersalną inteligencję. Dorównuje lub przewyższa ludzkie zdolności poznawcze. Takiej sztucznej inteligencji jeszcze nie stworzyliśmy. Wciąż zastanawiamy się nad pierwszą kategorią.
Przejście od reguł do danych
Jeśli spojrzymy wstecz na lata 80. i 90. XX w., podejście do tworzenia inteligentnych systemów było radykalnie odmienne. W tamtym czasie dominowały systemy eksperckie.
Cel był prosty, ale ambitny: sformalizowanie ludzkiego doświadczenia. Stosowali podstawowe zasady „jeśli-to”.
„Próbowali udostępnić ludzką wiedzę logicznemu przetwarzaniu przez komputer, przekształcając ją w proste reguły warunkowe”.
To było programowanie jawne. Powiedziałeś maszynie dokładnie, jak ma myśleć. Jeśli zdarzy się X, wykonaj Y. To zadziałało w przypadku wąskich obszarów. Diagnostyka medyczna. Eksploracja geologiczna. Ale system uderzył w ścianę. Nie potrafiła sobie poradzić z chaotyczną, nieuporządkowaną rzeczywistością świata.
Uczenie maszynowe przejmuje kontrolę
Dziś krajobraz jest całkowicie zdominowany przez uczenie maszynowe.
Paradygmat uległ całkowitej zmianie. Nie programujemy już zachowań jawnie. Szkolimy systemy w oparciu o dane empiryczne. Sztuczna inteligencja wchodzi w interakcję ze swoim otoczeniem. Generuje punkty danych. Studiuje.
Rezultatem jest system, który poprawia swoje działanie w oparciu o doświadczenie. Nie dlatego, że programista napisał dłuższą listę reguł. Ale dlatego, że model dostosował swoje wewnętrzne wagi po obejrzeniu milionów przykładów. To jest podstawa współczesnych badań podstawowych. I zmienia wszystko: od sposobu, w jaki piszemy kod, po sposób, w jaki żyjemy.
Maszyny przejmują zadania, które wcześniej były domeną wyłącznie ludzi. Jednak to porównanie jest błędne. Człowiek i maszyna nie są swoimi lustrzanymi odbiciami. Ich mocne strony uzupełniają się.
Maszyny obliczają z dużą dokładnością. Przetwarzają informacje w logiczny, sekwencyjny sposób. Szukają systematycznie. Szukają intensywnie. Znajdują wzorce w bardzo złożonych danych, których ludzkie oko nie zauważa.
Ale są kruche.
W bezpośrednim porównaniu z ludźmi maszynom brakuje niezawodności. Brakuje im zdrowego rozsądku. Systemy sztucznej inteligencji są niezwykle wyspecjalizowane. Wyróżniają się jednym zadaniem. Jednak ta umiejętność jest izolowana. Nie jest ona wbudowana w codzienną wiedzę.
Maszyna może dobrze wykonać kilka rzeczy. Człowiek radzi sobie z wieloma zadaniami mniej lub bardziej skutecznie. To jest różnica.
Czego ludzie mogą się nauczyć od sztucznej inteligencji?
Pytanie, czego ludzie mogą się nauczyć od maszyn, brzmi dziwnie. Przypomina to pytanie, czego ptaki mogą nauczyć się od samolotów.
W rzeczywistości starają się uczynić maszyny „bardziej ludzkimi”. Nie odwrotnie.
Ta debata ma jednak skutki uboczne. Mówimy o racjonalności. Mówimy o sprawiedliwości. O właściwościach jakich oczekujemy od maszyn. Ta dyskusja zmusza nas do samokrytyki.
Sztuczna inteligencja odzwierciedla nasze zachowanie. Odkrywa wzorce, których sami nie dostrzegamy.
Sztuczna inteligencja może nam wiele powiedzieć o naszym zachowaniu.
Przykład. Metoda uczenia maszynowego wykorzystuje decyzje sędziego jako dane szkoleniowe. Buduje model predykcyjny. Cel: przejrzystość.
Warunek: model musi umożliwiać interpretację. Jeśli tak, proces decyzyjny sędziego staje się widoczny. Uprzedzenie staje się widoczne. Przestrzenie logiczne stają się widoczne.
Gdzie jest dziś sztuczna inteligencja?
Zastosowania wydają się nie mieć końca. Właściwie jest to niemal uniwersalne.
Sztuczna inteligencja przeniknęła wszędzie. Prawie we wszystkich obszarach.
Dobrze znane przykłady są oczywiste. Inteligentne systemy w kontekście przemysłowym. Roboty. Inteligentne systemy utrzymania ruchu w produkcji. Słowo kluczowe: Przemysł 4.0.
Systemy rekomendacji od Google. Z Amazona. Personalizacja. To jest wszędzie.
Autonomiczna jazda. Wciąż w toku. Nie zostało to jeszcze do końca przesądzone. Ale jest obecny.
Również w medycynie postęp AI jest oczywisty.
Ciekawym, ale w dużej mierze otwartym pytaniem jest, kiedy sztuczna inteligencja osiągnie poziom dojrzałości, który pod względem poznawczym zrówna ją z człowiekiem.
Badania stosowane posuwają tę kwestię do przodu. W kampusie innowacji oprogramowania w Paderborn (SICP). W obszarze kompetencji „Inteligentne systemy”.
SICP pełni funkcję łącznikową. Między nauką a przemysłem. Rozwiązania są opracowywane wspólnie z firmami. Do problemów z praktyki przemysłowej.
Cel: zwiększyć efektywność produkcji. Konkretne problemy. Konkretne odpowiedzi.
Przewidywania dotyczące rozwoju AI regularnie okazują się błędne. W przeszłości. Dziś sytuacja się nie zmieniła. Rozwój technologiczny następuje zbyt szybko.
Jedno jest pewne. Wpływ na wszystkie obszary naszego życia jest ogromny. Do społeczeństwa.
Czy sztuczna inteligencja kiedykolwiek dorówna ludziom pod względem poznawczym? Czy to w ogóle możliwe?
Odpowiedź pozostaje otwarta.
Profesor Erhard Hüllermeier nie spodziewa się, że w najbliższym czasie pojawią się „zabójcze roboty”. Pomysł, że sztuczna inteligencja zyska własną wolę i zacznie dążyć do dominacji nad światem, jest science fiction. Do tego jeszcze bardzo daleko. Rzeczywista sytuacja jest znacznie bardziej prozaiczna. I być może bardziej znaczące.
AI jako narzędzie pomocnicze. Na tym polega jego obecna użyteczność. Rozszerza możliwości człowieka. Weźmy na przykład diagnostykę medyczną. Lekarz otrzymuje „drugą parę oczu”, które się nie męczą. Egzamin staje się ostrzejszy. Planowanie terapii jest dokładniejsze. W produkcji przemysłowej rutynowe i wyczerpujące zadania są całkowicie przenoszone na maszyny. Wynik? Wymierny wzrost jakości życia.
„Sztuczna inteligencja może pomóc nam sprostać wielu kluczowym wyzwaniom naszych czasów, takim jak zmiany klimatyczne, globalne bezpieczeństwo żywnościowe czy kontrola chorób”.
Wyzwania, przed którymi stoimy, są ogromne. Zmiana klimatu. Bezpieczeństwo żywnościowe świata. Eliminacja chorób. Sami nie jesteśmy w stanie ich rozwiązać. Ale dzięki AI nasze szanse znacznie wzrastają. Przetwarza dane na skalę niedostępną dla człowieka. Ujawnia wzorce chaosu. To nie magia. To po prostu lepsza matematyka.
Próżnia prawna i etyczna
Bez ryzyka nie ma możliwości. To jest aksjomat. Jednak specyfika tych zagrożeń jest często źle rozumiana. Nie mówimy o Skynecie. Mówimy o biurokracji. A co do prawa.
Wiele kluczowych kwestii pozostaje prawnie nierozwiązanych. Ramy prawne pozostają w tyle za technologią. Kto ponosi odpowiedzialność, jeśli system autonomiczny popełni błąd? Programista? Użytkownik? Sam algorytm? Nie ma jeszcze jasnych odpowiedzi.
Konsekwencje społeczne są niejasne. Weźmy Chiny. Systemy ocen społecznych już działają. Przypisują obywatelom pewien poziom wiarygodności. Rodzi to poważne wątpliwości etyczne. Ale nie chodzi tylko o reżimy autorytarne. Dzieje się tak również na rynkach demokratycznych.
Pomyśl o zatwierdzeniu pożyczki. Lub rozpatrywanie wniosków o zatrudnienie w agencjach zatrudnienia. Komputery podejmują te decyzje teraz. Potencjalnie dotknięty może być każdy obywatel. Uczciwość nie jest gwarantowana. Często brakuje przejrzystości. Dyskryminacja może być wbudowana w dane. A jeśli nie rozumiesz modelu, nie możesz się mu oprzeć.
Kiedy kontrola się wymyka
Niebezpieczeństwem nie jest powstanie robotów. Jest autonomiczna. Szczególnie w systemach działających poza kontrolą człowieka.
Spójrz na handel algorytmiczny. milisekundy. Oto okres. Miliony euro przechodzą w ułamku sekundy. Systemy są tak szybkie i złożone, że ludzie nie mogą interweniować w czasie rzeczywistym. Obserwujemy wykresy. Mamy nadzieję na najlepsze.
Kryzysy finansowe? Są źli. Powodują cierpienie. Bledną jednak w porównaniu z innymi systemami autonomicznymi. Broń autonomiczna. Zabójcza siła określona przez kod. Żaden ludzki palec nie dotyka spustu. Czy po rozpoczęciu tego procesu możesz go zatrzymać?
„Ryzyko finansowe, takie jak krach na rynku, wydaje się prawie nieistotne w porównaniu z zagrożeniami związanymi z autonomicznymi systemami uzbrojenia”.
Mamy już do czynienia z systemami, których nie można w pełni kontrolować. Oni się uczą. Dostosować. Ewoluują w sposób, którego ich twórcy nie do końca przewidzieli. Zakładamy, że mamy nad nimi kontrolę. Ale często nie mamy tej kontroli.
Pytanie nie brzmi, czy sztuczna inteligencja zmieni świat. Już to zmienił. Pytanie czy uda nam się utrzymać kierownicę gdy auto zacznie samo ruszać. Nie znaleźliśmy jeszcze odpowiedzi na to pytanie.
