Anthropic, ведущий разработчик ИИ, готовится к выпуску новой модели под названием «Mythos», которая представляет собой значительный скачок в развитии искусственного интеллекта. Однако, передовые возможности модели сопровождаются резким предупреждением: она может резко обострить угрозы кибербезопасности, делая крупномасштабные кибератаки гораздо более вероятными.
Утечка и реакция Anthropic
Детали о Mythos неожиданно всплыли на прошлой неделе из-за случайной утечки в системе управления контентом Anthropic. Черновик блог-поста, оставленный в открытом доступе, описывал модель как представляющую собой «беспрецедентные риски для кибербезопасности». Anthropic впоследствии подтвердил существование Mythos, назвав его «самым мощным» ИИ, который когда-либо создавала компания.
Компания признает, что Mythos знаменует собой «коренной сдвиг» в производительности ИИ, демонстрируя «значительный прогресс в рассуждениях, кодировании и кибербезопасности». Это признание совпало с негативной реакцией акций компаний, занимающихся кибербезопасностью, что указывает на обеспокоенность инвесторов потенциальным влиянием модели.
Что делает Mythos особенным?
Mythos входит в категорию «Capybara» моделей ИИ от Anthropic – более крупных и интеллектуальных, чем их предыдущая серия Opus. Это означает, что ИИ может решать сложные задачи с большей автономией и точностью. Суть в том, что Mythos представляет собой качественный скачок, а не просто количественное улучшение.
Главная тревога заключается в том, что по мере того как модели ИИ становятся мощнее, более мощными становятся и инструменты для взлома на основе ИИ. Киберпреступники могут использовать Mythos для одновременного проведения нескольких атак, подавляя существующие системы защиты.
Усугубляющийся ландшафт угроз
Опасность не ограничивается прямым взломом. Распространение автономных ИИ-агентов, способных учиться и действовать независимо, усиливает риск. Сотрудники, неосознанно интегрирующие таких агентов в рабочие системы, могут непреднамеренно открыть двери для кибератак.
Более того, ИИ уже упростил утечки личных данных, как отмечает Palo Alto Networks. Более продвинутый ИИ, такой как Mythos, может еще больше снизить порог входа для злоумышленников.
Сроки и усилия по смягчению последствий
В настоящее время Mythos слишком дорог в вычислительном отношении для широкого развертывания. Anthropic работает над повышением его эффективности перед общим выпуском. Компания конфиденциально предупредила правительственных чиновников, что возможности модели могут сделать крупномасштабные кибератаки значительно более вероятными к 2026 году, подчеркивая срочность ситуации.
«Это не просто о более быстром ИИ; это о фундаментальном изменении баланса сил между защитниками и нападающими.»
Появление Mythos — это не просто технологическое обновление; это сигнал тревоги для готовности в области кибербезопасности. Ближайшие несколько лет будут критически важны, поскольку правительства, компании и отдельные лица адаптируются к новым реалиям ландшафта угроз, обусловленного ИИ.
