Компания Anthropic ограничивает доступ к своей новой AI-модели после того, как заявила об обнаружении тысяч уязвимостей в основных системах, что вызывает опасения по поводу возможного злоупотребления в кибератаках.
Согласно заявлению Anthropic, новая модель общего назначения также выявила уязвимости высокой степени серьезности во всех основных операционных системах и веб-браузерах.
“Учитывая темпы развития AI, не пройдет много времени, прежде чем такие возможности начнут широко распространяться, потенциально попадая к акторам, не заинтересованным в их безопасном использовании.”
AI уже широко используется хакерами для проведения кибератак. По данным AllAboutAI, наблюдается рост на 72% в годовом исчислении количества кибератак с применением AI, при этом 87% мировых организаций столкнулись с кибератаками, использующими AI, в 2025 году.
Anthropic выразила обеспокоенность тем, что произойдет, если аналогичные AI-возможности будут использованы злоумышленниками.
Для борьбы с этим Anthropic во вторник объявила о запуске Project Glasswing — новой инициативе, объединяющей более 40 компаний, включая Amazon Web Services, Apple, Cisco, Google, JPMorgan, Linux Foundation, Microsoft и Nvidia.
Project Glasswing будет использовать возможности Claude Mythos Preview для обнаружения ошибок в целях защиты, обмена данными со своими партнерами и опережения угроз путем исправления критических уязвимостей до того, как злоумышленники смогут ими воспользоваться.
Обнаружены уязвимости, которым десятилетия
Zero-day vulnerability (уязвимость нулевого дня) — это программная ошибка, которой могут воспользоваться до того, как те, кто может ее исправить, даже узнают о ее существовании. Поиск и исправление таких уязвимостей исторически требовали редкой и дорогой человеческой экспертизы, но AI может изменить масштабы и скорость обнаружения.
Anthropic заявила, что уязвимости, которые она обнаруживает, "часто бывают тонкими или трудно обнаруживаемыми".
Многие из них существуют 10 или 20 лет, причем самая старая из найденных на данный момент — 27-летняя ошибка в OpenBSD — операционной системе, известной в первую очередь своей безопасностью.
Также была обнаружена 16-летняя ошибка в медиа-библиотеке FFmpeg, 17-летняя уязвимость удаленного выполнения кода в операционной системе FreeBSD с открытым исходным кодом и множество уязвимостей в ядре Linux.
Mythos Preview также выявил несколько слабых мест в самых популярных криптографических библиотеках, алгоритмах и протоколах, включая TLS, AES-GCM и SSH.
Добавлено, что веб-приложения "содержат множество уязвимостей", от межсайтового скриптинга и SQL-инъекций до уязвимостей, специфичных для конкретной области, таких как подделка межсайтовых запросов, которая часто используется в фишинговых атаках.
Lifecycle of a zero-day exploit. Source: PhoenixNAP
Anthropic утверждает, что 99% обнаруженных ею уязвимостей еще не исправлены, "поэтому нам было бы безответственно раскрывать детали о них".
Программное обеспечение станет более безопасным, но не сразу
Anthropic заявила, что это, вероятно, только начало тенденции, и "работа по защите мировой киберинфраструктуры может занять годы", но AI поможет усилить программное обеспечение и системы.
“В долгосрочной перспективе мы ожидаем, что оборонительные возможности будут преобладать: мир станет более безопасным, программное обеспечение будет лучше защищено — во многом благодаря коду, написанному этими моделями. Но переходный период будет сопряжен с трудностями.”
