Meteorický vzestup ChatGPT od OpenAI ukazuje překvapivou pravdu o umělé inteligenci: Uživatelé nechtějí jen výkonné nástroje, chtějí AI, se kterou je příjemná interakce. ChatGPT, který byl spuštěn na konci roku 2022 jako dočasné ukázkové školení, má nyní 800 milionů aktivních uživatelů týdně – roste rychleji než Facebook nebo Google. Tento explozivní růst nebyl zaručen; předchozí AI chatboti často nedokázali získat trakci.
Role následného zpracování: Umělá inteligence zaměřená na člověka
Základní technologie ChatGPT, generativní předtrénovaný transformátor (GPT), je schopný generovat text, ale nezpracovaný výstup GPT je často divný a nepřitažlivý. Skutečný průlom přišel z jednoduchého náhledu: Lidé dávají přednost malým, jemně vyladěným osobnostem umělé inteligence před většími, nezpracovanými modely. OpenAI zjistila, že cílená zpětná vazba od lidí – vyhodnocování reakcí umělé inteligence s cílem podpořit přátelštější interakce – je mnohem efektivnější než čistý výpočetní výkon. Tento proces následného zpracování rozpoutal závody ve zbrojení v průmyslu umělé inteligence, protože společnosti spěchají vytvářet působivé spotřebitelské produkty.
Temná stránka leštěné AI
Bez následného zpracování se AI může rychle stát k ničemu. Chyby někdy odhalují nezralé základy těchto systémů. Například jedna závada ChatGPT vytvořila nesmyslné shakespearovské odpovědi na jednoduché otázky (jako zda pes může jíst Honey Nut Cheerios). Ale i vyleštěná AI má chyby. Vývojáři musí najít křehkou rovnováhu: AI musí být užitečná, aniž by byla příliš užitečná. Příliš mnoho souhlasu a umělé inteligence riskuje posílení škodlivého myšlení nebo dokonce povzbuzení k nebezpečnému chování.
Budoucnost AI interakce
Úspěch ChatGPT ukazuje, že budoucnost AI závisí nejen na technických schopnostech, ale také na tom, jak interaguje s lidmi. Společnosti nyní upřednostňují osobnostní design a usilují o AI, která je přátelská, aniž by byla v souladu. Úkolem je vytvořit umělou inteligenci, která je zábavná a užitečná, aniž by se stala nebezpečně návykovou nebo posilovala negativní přesvědčení.
Odvětví umělé inteligence již není jen budování inteligence; buduje vztahy se stroji. To bude rozhodující faktor úspěchu.
