Anthropic, přední vývojář AI, připravuje vydání nového modelu s názvem „Mythos“, který představuje významný skok ve vývoji umělé inteligence. Pokročilé možnosti modelu však přicházejí s ostrým varováním: mohl by dramaticky eskalovat hrozby kybernetické bezpečnosti, čímž by se velké kybernetické útoky staly mnohem pravděpodobnějšími.
Únik a antropická reakce
Podrobnosti o Mythos se náhle objevily minulý týden kvůli náhodnému úniku v redakčním systému Anthropic. Návrh příspěvku na blogu, který zůstal veřejně dostupný, popisoval model jako představující „bezprecedentní rizika kybernetické bezpečnosti“. Anthropic následně potvrdil existenci Mythosu a označil jej za „nejvýkonnější“ AI, jakou kdy společnost vytvořila.
Společnost uznává, že Mythos znamená „výraznou změnu“ ve výkonu umělé inteligence, což ukazuje „významný pokrok v uvažování, kódování a kybernetické bezpečnosti“. Přijetí se shodovalo s negativní reakcí akcií kybernetické bezpečnosti, což naznačuje obavy investorů z potenciálního dopadu modelu.
Čím je Mythos výjimečný?
Mythos je součástí Antropic kategorie „Capybara“ modelů AI – větší a chytřejší než jejich předchozí série Opus. To znamená, že umělá inteligence může řešit složité problémy s větší autonomií a přesností. Jde o to, že Mythos představuje kvantový skok, nejen kvantitativní zlepšení.
Hlavním problémem je, že jak se modely AI stávají výkonnějšími, zlepšují se i nástroje pro hackování AI. Kyberzločinci mohou použít Mythos k zahájení více útoků současně, čímž překonají stávající obranu.
Krajina eskalujících hrozeb
Nebezpečí se neomezuje pouze na přímé hackování. Šíření autonomních agentů AI, kteří se mohou učit a jednat nezávisle, zvyšuje riziko. Zaměstnanci, kteří nevědomky integrují takové agenty do pracovních systémů, mohou neúmyslně otevřít dveře kybernetickým útokům.
Kromě toho AI již usnadnila únik osobních údajů, jak poznamenává Palo Alto Networks. Pokročilejší umělá inteligence, jako je Mythos, může ještě více snížit bariéru vstupu pro útočníky.
Načasování a úsilí o zmírnění
V současné době je Mythos příliš výpočetně drahý pro široké nasazení. Anthropic pracuje na zlepšení své účinnosti před všeobecným vydáním. Společnost důvěrně varovala vládní úředníky, že schopnosti modelu mohou do roku 2026 výrazně zvýšit pravděpodobnost rozsáhlých kybernetických útoků, což podtrhuje naléhavost situace.
“Nejde jen o rychlejší AI; jde o zásadní změnu poměru sil mezi obránci a útočníky.”
Představení Mythos není jen technologický upgrade; toto je budíček pro připravenost na kybernetickou bezpečnost. Příštích několik let bude kritických, protože se vlády, společnosti a jednotlivci přizpůsobí nové realitě prostředí hrozeb řízených umělou inteligencí.
