Jsme jimi obklopeni. Zametají nám podlahy. Řídí naše auta. Spravují zásoby v obrovských skladech. Učící stroje a umělá inteligence již nejsou pojmy sci-fi. Staly se každodenní realitou. Jejich schopnosti se zlepšují. Napodobují lidské poznání s alarmující přesností. Ve vzduchu ale visí otázka. Jak lidské jsou tyto strojové mozky ve skutečnosti? A může se tato napodobenina stát nebezpečnou?
Odpověď není jednoduchá. Vyžaduje to pohled za humbuk. Musíme pochopit mechaniku.
Iluze lidské inteligence
Mnoho lidí předpokládá, že pokud auto rozpozná kočku nebo jede po dálnici, „rozumí“ světu stejně jako člověk. Tento předpoklad je chybný. To je nebezpečné přílišné zjednodušení.
Eike Hüllermeier, výzkumník umělé inteligence na univerzitě v Paderbornu, navrhuje být s tímto označením opatrní. Systémy, které používáme, nemyslí. Počítají pravděpodobnosti. Mapují vzory v měřítku, které lidé nemohou pochopit. Závěr ale může působit překvapivě lidsky.
„Jejich dovednosti se přibližují lidským dovednostem,“ poznamenává Hüllermeier. Ale intimita není totéž co identita.
Na tomto rozlišení záleží. Když se robotický vysavač pohybuje po vašem obývacím pokoji, „nevybírá si“ svou cestu na základě logiky nebo preferencí. Zpracovává data senzorů, aby se zabránilo kolizím. Je to účinné. Není při vědomí. Jak však tyto systémy přebírají složitější úkoly, čára se rozmazává.
Proč je to důležité pro běžné uživatele?
Nebezpečí není povstání robotů. Je tenčí. Je to o důvěře. Když se systémy AI chovají způsobem, který vypadá jako záměr, uživatelé jim záměr připisují. To vede k falešné důvěře.
Pokud samořídící auto učiní rozhodnutí, které se v jedné situaci jeví jako „chytré“, uživatelé mohou předpokládat, že je „chytré“ i v nové, extrémní situaci. To je špatně. Systém pracuje v rámci specifické sady tréninkových dat. Za touto hranicí selhává.
Pochopení omezení současných technologií je zásadní. Musíme vědět, co tyto nástroje dokážou. Musíme vědět, co nemůžou udělat.
Kde jsou rizika
Riziko není zlý úmysl. AI nemá žádné touhy. Riziko spočívá v nesouladu cílů.
- Nadměrná závislost: Lidé delegují rozhodovací pravomoci na algoritmy. Když algoritmus udělá chybu, člověk tu není, aby ji opravil.
- Neprůhlednost: Často nevíme, proč model učinil konkrétní rozhodnutí. Toto je problém černé skříňky.
- Zkreslení dat: Tyto systémy jsou trénovány na historických datech. Pokud tato data obsahují lidské předsudky, AI je zesílí.
Hüllermeierova práce na univerzitě v Paderbornu se zaměřuje na zvýšení spolehlivosti těchto systémů. Průhlednější. Méně náchylné k chybám. Technologie jde ale rychleji než regulace. Rychlejší než veřejné porozumění.
Hlavní otázka
Jsou to tedy lidé? Ne. Jsou to složité statistické stroje. Ale protože jejich výstupy na mnoha úkolech jsou k nerozeznání od lidského výkonu, psychologický dopad je skutečný. Zacházíme s nimi jako se sobě rovnými. Neměli by.
Otázkou není, zda nás nahradí. Otázkou je, zda jim budeme věřit natolik, abychom jim předali volant. A zda budou
Dekódování „černé skříňky“: jak vlastně fungují neuronové sítě
Už žijeme uvnitř auta, ať se nám to líbí nebo ne. Tento trend již není skrytý. Výukové počítače se přesouvají z laboratorních experimentů na základ naší ekonomiky a každodenního života.
proč teď? Dva důvody. Vylepšené softwarové architektury, jako jsou neuronové sítě. A hardware, který konečně drží krok s rostoucí chutí po datech.
Většinu práce už dělají stroje. Vidíte to u virtuálních asistentů. Vidíte to u průmyslových robotů. Pravděpodobně to uvidíte v budoucnosti zdravotnictví s robotickou péčí o pacienty. Mezi používáním nástroje a pochopením toho, jak funguje, je však mezera. Jak tyto „strojové mozky“ vlastně „myslí“? Tvoříme něco, co brzy předčí naše vlastní znalosti?
Eike Hüllermeier, vedoucí katedry inteligentních systémů a strojového učení na univerzitě v Paderbornu, rozebírá mechaniku tohoto procesu. Podívá se také na to, co tato technologie odhaluje o našem chování a kam směřuje.
Definice nepopsatelného
Začněme tou nejtěžší částí: definicí.
Künstliche Intelligenz (Umělá inteligence) není jen podobor informatiky. Jedná se o chaotický průsečík oblastí. Zahrnuje matematiku. Inženýrství. Psychologie. Neurobiologie. Biologie. Filozofie. Lingvistika.
Přesná, obecně uznávaná definice neexistuje. Marvin Minsky, jeden ze zakladatelů oboru, navrhl pragmatický přístup: je to věda o vytváření strojů, které mohou provádět akce vyžadující lidskou inteligenci.
To však vyvolává další, nepříjemnou otázku. Co přesně je lidská inteligence?
Dnes se dominantní pohled zaměřuje na agenty řešící problémy. Tyto systémy jednají racionálně, aby dosáhly cíle. Potřebují ale také „lidské“ vlastnosti. Schopnost učit se. Autonomie. Tolerance chyb. Tyto vlastnosti je odlišují od standardního, rigidního softwaru.
Když tyto přístupy implementujeme pro použití v reálném světě, nazýváme je inteligentními systémy.
„Künstliche Intelligenz ist die Wissenschaft, Maschinen die Dinge tun zu lassen, für die ein Mensch Intelligenz benötigen würde.“ — Marvin Minsky
Tato definice má být široká. Inteligentním systémem může být hardware. Například robotické rameno, které montuje auta. Nebo to může být čistě softwarové. Například systém doporučení, který navrhuje další epizodu pořadu, o kterém jste ani nevěděli.
Hranice mezi hardwarem a softwarem se stírá. Na rozdílu záleží méně než na výsledku. Může studovat? Dokáže se přizpůsobit? Pokud je odpověď ano, pak je to součást směny. A tento posun se děje rychle.
Slabá AI vs silná AI: Pochopení rozdílu
Jak je umělá inteligence klasifikována, není jen akademická debata pro argumentaci. Definuje, co můžete reálně očekávat od technologie ve vaší kapse nebo na pracovišti. Vědci rozdělují umělou inteligenci do dvou hlavních kategorií: slabá AI a silná AI.
Slabá AI je všude kolem nás. Simuluje inteligentní chování pro provádění konkrétních úkolů. Přemýšlejte o rozpoznávání řeči nebo programatických reklamách, které se zobrazují ve vašem zdroji. Stroj „nemyslí“. Jednoduše plní specifickou funkci s vysokou přesností.
Silná AI je úplně jiný příběh. Znamená to vědomí. Empatie. Nezávislé akce. Toto je verze AI, která má univerzální inteligenci. Vyrovnává nebo převyšuje lidské kognitivní schopnosti. Takovou AI jsme ještě nevytvořili. Stále vymýšlíme první kategorii.
Přechod od pravidel k datům
Když se podíváte zpět na 80. a 90. léta, přístup k vytváření inteligentních systémů byl radikálně odlišný. V té době dominovaly expertní systémy.
Cíl byl jednoduchý, ale ambiciózní: formalizovat lidskou zkušenost. Používali základní pravidla když-pak.
“Snažili se zpřístupnit lidské znalosti logickému zpracování počítačem a přeměnit je v jednoduchá podmíněná pravidla.”
Bylo to explicitní programování. Řekl jsi stroji přesně, jak má myslet. Pokud se stane X, udělejte Y. To fungovalo pro úzké oblasti. Lékařská diagnostika. Geologický průzkum. Ale systém narazil na zeď. Nedokázala se vyrovnat s chaotickou, nestrukturovanou realitou světa.
Strojové učení přebírá kontrolu
Krajinu dnes zcela ovládá strojové učení.
Paradigma se zcela změnilo. Chování již explicitně neprogramujeme. Systémy trénujeme na základě empirických dat. AI interaguje se svým prostředím. Generuje datové body. On studuje.
Výsledkem je systém, který na základě zkušeností zlepšuje svůj výkon. Ne proto, že by programátor napsal delší seznam pravidel. Ale protože model upravil své vnitřní váhy po zhlédnutí milionů příkladů. To je základ moderního základního výzkumu. A mění vše: od způsobu, jakým píšeme kód, až po způsob, jakým žijeme.
Stroje přebírají úkoly, které byly dříve výhradní doménou lidí. Toto srovnání je však nesprávné. Člověk a stroj nejsou jeden druhého zrcadlovým obrazem. Jejich přednosti se vzájemně doplňují.
Stroje počítají s vysokou přesností. Zpracovávají informace logickým a sekvenčním způsobem. Hledají systematicky. Těžce hledají. Ve vysoce komplexních datech nacházejí vzory, kterých si lidské oko nevšimne.
Ale jsou křehké.
V přímém srovnání s lidmi postrádají stroje spolehlivost. Chybí jim zdravý rozum. Systémy umělé inteligence jsou extrémně specializované. Vynikají v jednom úkolu. Tato dovednost je však izolovaná. Není zabudováno do každodenního poznání.
Stroj umí dobře několik věcí. Člověk se s mnoha úkoly vyrovnává více či méně úspěšně. V tom je rozdíl.
Co se lidé mohou naučit od AI?
Otázka, co se lidé mohou naučit od strojů, zní zvláštně. Připomíná to otázku, co se ptáci mohou naučit z letadel.
Ve skutečnosti se snaží učinit stroje „lidštějšími“. Ne naopak.
Tato debata má však vedlejší účinky. Mluvíme o racionalitě. Mluvíme o spravedlnosti. O vlastnostech, které od strojů očekáváme. Tato diskuse nás nutí k sebekritice.
AI odráží naše chování. Odhaluje vzorce, které my sami nevidíme.
Umělá inteligence nám může hodně prozradit o našem vlastním chování.
Příklad. Metoda strojového učení využívá rozhodnutí rozhodčího jako tréninková data. Vytváří prediktivní model. Cíl: transparentnost.
Podmínka: model musí být interpretovatelný. Pokud ano, zviditelní se rozhodovací proces soudce. Zaujatost se stává viditelnou. Logické prostory se stanou viditelnými.
Kde je dnes AI?
Aplikace jsou zdánlivě nekonečné. Ve skutečnosti je téměř univerzální.
AI pronikla všude. Téměř ve všech oblastech.
Známé příklady jsou zřejmé. Inteligentní systémy v průmyslovém kontextu. Roboti. Inteligentní systémy údržby ve výrobě. Klíčové slovo: Průmysl 4.0.
Systémy doporučení od společnosti Google. Z Amazonu. Personalizace. Je to všude.
Autonomní řízení. Stále probíhá. Ještě není úplně rozhodnuto. Ale je to přítomné.
Také v medicíně je pokrok AI zřejmý.
Zajímavou, ale do značné míry otevřenou otázkou je, kdy AI dosáhne úrovně vyspělosti, která ji kognitivně staví na roveň lidem.
Aplikovaný výzkum to posouvá kupředu. Na Software Innovation Campus Paderborn (SICP). V oblasti kompetence „Smart systems“.
SICP funguje jako prostředník. Mezi vědou a průmyslem. Řešení jsou vyvíjena společně s firmami. Na problémy z průmyslové praxe.
Cíl: zvýšit efektivitu výroby. Specifické problémy. Konkrétní odpovědi.
Předpovědi vývoje AI se pravidelně ukazují jako mylné. V minulosti. Dnes se situace nezměnila. Technologický vývoj probíhá příliš rychle.
Jedna věc je jistá. Dopad na všechny oblasti našeho života je obrovský. Do společnosti.
Bude někdy umělá inteligence kognitivně srovnatelná s lidmi? Je to vůbec možné?
Odpověď zůstává otevřená.
Profesor Erhard Hüllermeier neočekává, že by se v dohledné době objevili „zabijáci roboti“. Představa, že umělá inteligence získá vlastní vůli a začne usilovat o ovládnutí světa, je sci-fi. To je ještě hodně daleko. Skutečná situace je mnohem prozaičtější. A možná ještě významnější.
AI jako pomocný nástroj. V tom spočívá jeho současná užitečnost. Rozšiřuje lidské schopnosti. Vezměme si například lékařskou diagnostiku. Lékař dostane „druhý pár očí“, který se neunaví. Vyšetření je čím dál ostřejší. Plánování terapie je přesnější. V průmyslové výrobě jsou rutinní a vyčerpávající úkoly zcela přeneseny na stroje. Výsledek? Citelné zvýšení kvality života.
„AI nám může pomoci čelit mnoha klíčovým výzvám naší doby, ať už je to změna klimatu, globální potravinová bezpečnost nebo kontrola nemocí.“
Výzvy, kterým čelíme, jsou obrovské. Změna klimatu. Potravinová bezpečnost pro svět. Eliminace nemocí. Nemůžeme je vyřešit sami. Ale s AI se naše šance výrazně zvyšují. Zpracovává data v měřítku nepřístupném pro člověka. Odhaluje vzorce v chaosu. Není to magie. Je to prostě lepší matematika.
Právní a etické vakuum
Bez rizik nejsou příležitosti. Toto je axiom. Specifika těchto rizik jsou však často nepochopena. Nemluvíme o Skynetu. Mluvíme o byrokracii. A o pravici.
Mnoho kritických problémů zůstává právně nevyřešeno. Právní rámec zaostává za technologií. Kdo nese odpovědnost, pokud autonomní systém udělá chybu? Programátor? Uživatel? Algoritmus samotný? Jasné odpovědi zatím nejsou.
Sociální důsledky jsou nejasné. Vezměme si Čínu. Systémy sociálního hodnocení již fungují. Přidělují občanům určitou úroveň důvěryhodnosti. To vyvolává vážné etické obavy. Ale nejde jen o autoritářské režimy. To se děje i na demokratických trzích.
Myslete na schvalování úvěrů. Nebo vyřizování žádostí o zaměstnání v agenturách práce. Tato rozhodnutí nyní dělají počítače. Potenciálně postižený je každý občan. Spravedlnost není zaručena. Často chybí transparentnost. V datech může být zabudována diskriminace. A pokud modelu nerozumíte, nemůžete mu odolat.
Když kontrola zmizí
Nebezpečí není povstání robotů. Je autonomní. Zejména v systémech fungujících mimo lidskou kontrolu.
Podívejte se na algoritmické obchodování. milisekundy. Zde je časové období. Miliony eur se pohybují ve zlomku sekundy. Systémy jsou tak rychlé a složité, že lidé nemohou zasahovat v reálném čase. Sledujeme grafy. Doufáme v to nejlepší.
Finanční krize? Jsou špatné. Způsobují utrpení. Ale ve srovnání s jinými autonomními systémy blednou. Autonomní zbraně. Smrtící síla rozhodnutá kódem. Žádný lidský prst se nedotkne spouště. Jakmile tento proces spustíte, můžete ho zastavit?
“Finanční rizika, jako jsou pády trhu, se zdají být téměř bezvýznamná ve srovnání s nebezpečím autonomních zbraňových systémů.”
Již nyní máme co do činění se systémy, které nelze plně ovládat. Učí se. Přizpůsobit. Vyvíjet se způsoby, které jejich tvůrci plně nepředvídali. Předpokládáme, že nad nimi máme kontrolu. Tuto kontrolu ale často nemáme.
Otázkou není, zda AI změní svět. Už to změnil. Otázkou je, zda dokážeme držet volant, když se auto samo rozjede. Na tuto otázku jsme zatím nenašli odpověď.
