Более двух третей аккаунтов, заблокированных компанией Anthropic за нарушение правил в течение последнего года, использовали ИИ для помощи в подготовке к кибератакам, таким как написание вредоносного ПО, сообщает компания.
Anthropic сообщила в среду, что в период с марта 2025 года по март 2026 года из 832 аккаунтов, которые были проверены на предмет нарушения ее правил, 560 аккаунтов использовались таким образом.
Эти данные отражают тревожную глобальную тенденцию — ИИ все чаще используется для осуществления массовых кибератак. В апреле стоимость криптовалюты, украденной в результате взломов выросла до 629,7 миллиона долларов, что является самым высоким показателем с февраля 2025 года, что некоторые аналитики связали с широким использованием ИИ.
Источник: Anthropic
Manuel Aráoz, основатель платформы безопасности криптовалют OpenZeppelin, заявил 27 мая, что он считает “всю DeFi небезопасной” из-за способности ИИ-моделей выявлять уязвимости смарт-контрактов.
В то время как данные показывают, что большая часть использования ИИ приходится на фазу подготовки к атаке, Anthropic сообщила, что он также начал использоваться «глубже в жизненном цикле атаки», при этом 6,5% заблокированных аккаунтов использовали ИИ для помощи в «боковом перемещении» — что относится к техникам, которые использует киберзлоумышленник после получения первоначального доступа.
«Подобные ‘посткомпромессные’ техники раньше были доступны только злоумышленникам с техническими знаниями для их осуществления», — заявила Anthropic. «Наше исследование показывает, что ИИ теперь может выполнять эти действия от имени менее опытных злоумышленников».
ИИ также повысил уровень угрозы со стороны злоумышленников. Anthropic классифицировала треть аккаунтов, или 33%, как «средний риск или выше» в первые шесть месяцев своего анализа, но эта цифра почти удвоилась до 56% во второй шестимесячный период исследования.
Тип угрозы, создаваемой хакерами с использованием ИИ, был подробно описан исследователями Google в прошлом месяце. Исследователи обнаружили то, что, по их мнению, является первым случаем использования ИИ для разработки эксплойта нулевого дня, который позволил хакерам обойти двухфакторную аутентификацию некоего «популярного инструмента администрирования веб-систем с открытым исходным кодом».
_ Связанное:_ _ Удаление защитных ограждений ИИ вызывает вопросы об ограничениях регулирования моделей с открытым исходным кодом_
Компания добавила, что ИИ теперь может выполнять высокотехнические задачи для злоумышленников, и «нет никакой корреляции между квалификацией злоумышленника и количеством используемых им техник», показателем, который традиционно измерял уровень риска злоумышленника.
Anthropic заявила, что в некоторых случаях, например, в ноябре, китайская группа, поддерживаемая государством, осуществила атаку, в которой ИИ-модель работала автономно, проводя эксплойт, крадя учетные данные и принимая решения с участием человека в «ключевые моменты».
«Это именно те модели поведения, которые мы ожидаем увидеть все чаще по мере того, как ИИ-агенты становятся более способными», — говорится в заявлении.
Компания Anthropic готовится к выпуску своей ИИ-модели Mythos в ближайшие недели, большой языковой модели, которая вызвала обеспокоенность аналитиков из-за своих мощных возможностей в области кибербезопасности, которые обнаружили более 10 000 серьезных уязвимостей в широко используемом программном обеспечении.
