Anthropic представляє «Mythos»: потужна модель ІІ, прихована від громадськості для запобігання кіберзагроз
Компанія Anthropic, провідний розробник штучного інтелекту, оголосила про створення нової моделі під назвою Claude Mythos Preview. Однак, зробивши крок, що знаменує зміну підходів до управління високопродуктивним ІІ, компанія вирішила не випускати модель у відкритий доступ.
Натомість Anthropic обмежує доступ вузьким колом лідерів індустрії, щоб вирішити зростаючу проблему: ризик використання просунутої ІІ як зброя в кібервійнах.
Project Glasswing: оборонна коаліція
Замість широкомасштабного запуску Anthropic впроваджує Mythos через консорціум, відомий як Project Glasswing. До цієї групи входять понад 40 найбільших технологічних гравців, включаючи:
- Технологічних гігантів: Apple, Amazon, Microsoft та Google.
- Постачальників обладнання та інфраструктури: Cisco та Broadcom.
- Захисників Open Source: Linux Foundation.
Мета цієї коаліції – використовувати просунуті здібності моделі до міркування, щоб виявляти та усувати вразливості у безпеці критично важливого програмного забезпечення та інфраструктури до того, як ними зможуть скористатися зловмисники. Для підтримки цієї ініціативи Anthropic виділяє проекту до 100 мільйонів доларів у вигляді кредитів на використання Claude.
Чому це важливо: ІІ-«розплата»
Рішення приховати Mythos від громадськості підкреслює зростаючу напругу в ІІ-індустрії: баланс між інноваціями та безпекою. У міру того, як моделі стають все більш здатними розуміти складний програмний код, вони перетворюються на технології подвійного призначення. З одного боку, вони можуть допомогти розробникам захистити програмне забезпечення, з іншого — хакери можуть використовувати їх для пошуку вразливостей «нульового дня» (помилок, про які ще не знають творці програмного забезпечення).
Керівництво Anthropic вважає, що ми наближаємося до критичної точки перелому у сфері кібербезпеки.
«Наша мета — підвищити обізнаність та дати сумлінним гравцям перевагу у процесі захисту відкритої та приватної інфраструктури та коду»,
– Джаред Каплан, головний науковий співробітник Anthropic
Логан Грем, голова команди з тестування безпеки Anthropic, назвав цей випуск “розплатою” (reckoning) для всієї індустрії. Це передбачає, що нинішніх методів безпеки програмного забезпечення може виявитися недостатньо в епоху, коли ІІ здатний автоматизувати пошук складних експлойтів.
Зміна парадигми управління ІІ
Обмежуючи доступ до Mythos перевіреною групою «сумлінних гравців», Anthropic намагається створити прецедент того, як слід поводитися з «прикордонними моделями» (frontier models) — ІІ, що має потенційно небезпечні можливості. Цей підхід знаменує перехід від традиційної моделі «відкритого релізу» до контрольованішої стратегії колективної оборони.
Цей крок породжує важливі питання майбутньому індустрії:
– Чи будуть інші розробники ІІ цієї обмежувальної моделі для створення високопотужних інструментів?
– Чи зможе приватний консорціум ефективно захистити глобальну цифрову інфраструктуру?
– Як розвиватиметься розрив між «оборонним ІІ» та «наступальним ІІ»?
Висновок
Рішення Anthropic обмежити доступ до Claude Mythos знаменує нову еру розробки ІІ, де здатність захищати програмне забезпечення вважається надто небезпечною, щоб залишати в руках широкої публіки. За допомогою Project Glasswing компанія намагається збудувати оборонний щит, щоб залишатися на крок попереду кіберзагроз, керованих штучним інтелектом.
