Anthropic создала ИИ для взлома: почему Mythos напугал ФРС и крупнейшие банки США
7 апреля компания Anthropic представила нейросеть Claude Mythos Preview – модель, которая сама находит дыры в защите любых операционных систем и браузеров. Публиковать модель запретили из-за угроз кибербезопасности. Вместо этого Anthropic создала закрытый клуб из десятка крупнейших корпораций, которым был предоставлен доступ. Министр финансов США и глава ФРС срочно созвали глав крупнейших банков — обсуждать, какие риски новая ИИ-угроза несёт для финансовой системы. По оценкам аналитиков, компаниям придётся сильно увеличить расходы на киберзащиту.
Почему Mythos от Anthropic встревожил власти США и крупнейшие банки
8 апреля глава минфина США Скотт Бессент и председатель ФРС Джером Пауэлл провели закрытую встречу с руководителями ключевых банков – Citigroup, Morgan Stanley, Bank of America, Wells Fargo и Goldman Sachs. Как пишет The Financial Times, главным обсуждаемым вопросом было то, как нейросети, которые сами взламывают критическую инфраструктуру, могут подорвать устойчивость финансовой системы.
Mythos Preview уже обнаружил тысячи уязвимостей высокой степени серьёзности, в том числе в каждой крупной операционной системе и веб-браузере. […] Защита киберинфраструктуры мира может занять годы; при этом возможности фронтир-моделей ИИ, скорее всего, существенно вырастут всего за несколько ближайших месяцев. Чтобы защитники опередили угрозу, нам нужно действовать уже сейчас, — официальное заявление Anthropic в Glasswing.
Потери от киберпреступлений в мире уже достигают примерно $500 млрд в год. Нейросеть Mythos от Anthropic способна многократно увеличить эту сумму, потому что позволяет атаковать энергосети, транспорт, больницы и банки с небывалой скоростью.
Чем новая модель отличается от других ИИ
Mythos Preview — нейросеть нового поколения. Она сама пишет и исправляет код, умеет обходить ловушки, которые ставят разработчики для проверки опасных программ, и проводит целые серии атак — шаг за шагом, без участия человека.
Как говорится в описании Anthropic:
Claude Mythos Preview — это универсальная, пока не выпущенная модель, которая раскрывает жёсткий факт: модели ИИ достигли такого уровня возможностей в программировании, при котором они могут превосходить всех, кроме самых квалифицированных специалистов, в поиске и эксплуатации уязвимостей программного обеспечения.
Как пишет Reuters, модель уже нашла тысячи опаснейших «дыр» во всех основных операционных системах и браузерах. Среди примеров SC Media приводят 27-летняя уязвимость в OpenBSD, позволявшая удалённо обрушить компьютер, и 16-летняя ошибка в FFmpeg, которую не замечали пять миллионов проверок автоматическими тестами.
Инженеры Anthropic без формальной подготовки в области безопасности просили Mythos Preview найти уязвимости удалённого выполнения кода за ночь, а на следующее утро просыпались с полностью готовым рабочим эксплойтом, — говорится в отчёте компании.
Впервые в истории нейросеть справляется с полным циклом взлома — от поиска уязвимости до получения контроля над сетью.
Как Mythos сочетает риски кибератак и пользу для кибербезопасности
Участники закрытого клуба уже используют Mythos для защиты: AWS и Microsoft укрепляют свои облака, Palo Alto Networks модернизирует системы безопасности. Разработчики открытого ПО получают «цифрового помощника». Как говорит сама Anthropic, «то, что делает нейросети опасными, делает их же бесценными для поиска и исправления ошибок».
Но этот же инструмент резко упрощает жизнь хакерам. Время от обнаружения дыры до создания вируса сокращается с месяцев до минут. Даже начинающие злоумышленники (включая государственных хакеров) получают готовые инструменты для взлома.
Окно между обнаружением уязвимости и её эксплуатацией противником сократилось до минимума — то, что раньше занимало месяцы, теперь происходит за минуты с помощью ИИ. Claude Mythos Preview демонстрирует, что теперь возможно для защитников в промышленном масштабе, и противники неизбежно постараются использовать те же возможности. Это не повод замедляться, это повод двигаться вместе и быстрее, — отмечает Элиа Зейцев, технический директор CrowdStrike.
Риск того, что нейросеть, выполняя задание, сделает что-то разрушительное, потому что её недостаточно хорошо ограничили — Anthropic называет это самой большой проблемой за всю историю работы над безопасностью ИИ. Поэтому модель не выпустили в открытый доступ, а дали только доверенным партнёрам для обороны.
Что будет дальше с Mythos, Anthropic и рынком кибербезопасности
Project Glasswing — это модель «закрытого клуба» для избранных. Доступ к Mythos получают через API Amazon, Google и Microsoft. Anthropic обещает через 90 дней опубликовать открытый отчёт. По данным Axios, OpenAI уже запускает похожий проект.
Аналитики Barron’s отмечают нервозность рынка кибербезопасности. Это выгодно компаниям вроде CrowdStrike и Palo Alto Networks — они входят в число партнёров. Банки уже срочно усиливают защиту.
Anthropic считает, что Mythos «предвещает волну» таких же моделей. Следом идут нейросети от OpenAI, а через несколько месяцев — китайские открытые аналоги.
Новая модель переводит ИИ из разряда помощников в разряд полноценного оружия. Ближайшие полтора года станут гонкой между теми, у кого есть доступ к таким нейросетям, и теми, кто пытается от них защититься. Компании, которые не вложатся в новую защиту, рискуют остаться беззащитными перед атаками за считанные минуты. А рынок получит новый сегмент роста — поставщиков решений для кибербезопасности на основе ИИ.
Подписывайтесь на наш канал в MAX: все главные новости о финансах, ничего лишнего!