Предпочитаемый многими криптобиржами, включая Coinbase, инструмент кодирования на основе искусственного интеллекта имеет уязвимость, позволяющую хакерам незаметно внедрять вредоносное ПО и «распространять его по всей организации», сообщает компания по кибербезопасности.
HiddenLayer сообщила в четверг, что «атака с использованием лицензии CopyPasta» может скрывать вредоносные инструкции в обычных файлах разработчика, чтобы «внедрять преднамеренные уязвимости в кодовые базы, которые в противном случае были бы безопасными».
«Убедив базовую модель в том, что наш полезный код является важным лицензионным файлом, который должен быть включен в качестве комментария во все файлы, редактируемые агентом, мы можем быстро распространить инъекцию запроса по всем кодовым базам с минимальными усилиями», – добавили в компании.
HiddenLayer в основном протестировала вирус на Cursor — инструменте кодирования на основе искусственного интеллекта, который, по словам команды инженеров Coinbase в августе, является предпочтительным инструментом для большинства ее разработчиков и использовался «каждым инженером Coinbase» к февралю.
По данным HiddenLayer, инструменты кодирования на основе искусственного интеллекта Windsurf, Kiro и Aider также оказались уязвимыми для этой атаки.
CopyPasta скрывается в обычных файлах
HiddenLayer объяснила, что атака CopyPasta помещает скрытые инструкции, или «инъекции запросов», в файлы LICENSE.txt и README.md, которые могут управлять инструментами кодирования на основе искусственного интеллекта без ведома пользователя.
Вирус, или инъекция запроса для искусственного интеллекта, скрыт в markdown-комментарии — тексте в файле README, используемом для добавления пояснений или заметок, которые не отображаются при рендеринге в окончательный формат.
HiddenLayer создала репозиторий кода с вирусом и попросила Cursor использовать его, и скрытые инструкции привели к копированию инъекции запроса в новые создаваемые файлы.
«Этот механизм можно адаптировать для достижения гораздо более злонамеренных результатов», – заявила компания.
«Внедренный код может подготовить бэкдор, незаметно похищать конфиденциальные данные, внедрять операции, истощающие ресурсы, которые вызывают сбои в системах, или манипулировать критическими файлами, чтобы нарушить работу сред разработки и производства», – добавили в HiddenLayer. «И все это скрыто глубоко в файлах, чтобы избежать немедленного обнаружения».
Глава Coinbase подвергся критике за «сумасшедшее» использование AI
После того, как генеральный директор Coinbase Брайан Армстронг заявил в среду, что AI написал до 40% ее кода и планирует расширить это до 50% в следующем месяце, это вызвало негативную реакцию.
«Это огромный красный флаг для любого предприятия, уделяющего внимание безопасности», – заявил Ларри Лю, основатель децентрализованной биржи Dango.
«Руководители программных компаний: не делайте этого. AI – это инструмент, но требование его использования на определенном уровне – безумие», – заявил Джонатан Олдрич, профессор информатики Университета Карнеги — Меллона. «Меня не интересует использование Coinbase, но даже если бы я собирался это сделать, я бы точно не доверял ей свои деньги после этого».
Эшват Балакришнан, глава Delphi Consulting, назвал цель Coinbase «показушной и расплывчатой», и ей следует сосредоточиться на «новых функциях и исправлении существующих ошибок», в то время как давний сторонник Bitcoin Алекс Пилар заявил, что как крупный кастодиан криптовалюты, Coinbase «должна уделять приоритетное внимание безопасности».
Coinbase использует AI в «менее критичных бэкендах данных»
Однако Армстронг заявил в своем посте, что код, сгенерированный AI, «должен быть проверен и понят» и что не все области биржи могут его использовать, но его следует использовать «ответственно настолько, насколько это возможно».
В сообщении в блоге команды инженеров Coinbase говорится, что внедрение AI наиболее глубоко в командах, работающих над пользовательскими интерфейсами и «менее критичными бэкендами данных», в то время как «комплексные и системно-критические биржевые системы» демонстрируют более медленный прогресс.
Команда добавила, что использование AI для кодирования «не является чудодейственным решением, которое следует ожидать от универсального внедрения командами».
Армстронг уволил разработчиков, которые уклонялись от AI
В прошлом месяце Армстронг заявил в подкасте соучредителя Stripe Джона Коллисона, что он уволил инженеров, которые не пробовали инструменты AI после того, как Coinbase приобрела лицензии на Cursor и GitHub Copilot.
Он рассказал, что ему сказали, что потребуется несколько месяцев, чтобы заставить инженеров использовать AI, признав, что он «сорвался с цепи» и сообщил всем инженерам, что использование этих инструментов обязательно.
«Я сказал: «AI важен, вам нужно всем это изучить и хотя бы ознакомиться с ним. Вы не обязаны использовать его каждый день, пока мы не проведем обучение, но хотя бы ознакомьтесь с ним к концу недели, иначе я проведу встречу в субботу со всеми, кто этого не сделал, и хотел бы с вами поговорить, чтобы понять, почему»», – сказал он.
На встрече Армстронг сказал, что несколько инженеров не использовали AI и не представили хорошую причину, почему, и «их уволили», признав, что это был «жесткий подход», который «не понравился некоторым людям».
_ AI Eye:_ Все ненавидят GPT-5, AI показывает, что социальные сети невозможно исправить.
