Ethereum Foundation AI lead Davide Crapis и соучредитель Ethereum Vitalik Buterin предложили способ использования доказательств с нулевым разглашением и других методов для обеспечения конфиденциальности взаимодействия пользователя с большими языковыми моделями, блокируя при этом спам и злоупотребления.
API-вызовы происходят каждый раз, когда пользователь отправляет сообщение приложению, такому как AI-чатбот. Crapis и Buterin заявили в блоге в среду, что ключевой задачей как для пользователей, так и для провайдеров является конфиденциальность, безопасность и эффективность.
“Нам нужна система, в которой пользователь может внести средства один раз и совершать тысячи API-вызовов анонимно, безопасно и эффективно”, — отметили они.
“Провайдер должен быть гарантированно обеспечен оплатой и защитой от спама, а пользователь — гарантированно, что его запросы не могут быть связаны с его личностью или друг с другом”, — добавили они.
Источник: Davide Crapis
С ростом использования AI-чатботов утечки данных из LLM становятся все большей проблемой. Чатботы часто обрабатывают высокочувствительные данные, и привязка использования к личностям может создать значительные риски для конфиденциальности, юридические и риски безопасности. Журналы использования могут даже использоваться в судебных разбирательствах.
Решение Crapis и Buterin для пользователей и провайдеров
Crapis и Buterin заявили, что в настоящее время провайдерам приходится выбирать между двумя “неоптимальными путями”: доступом на основе идентификации, когда пользователям приходится предоставлять конфиденциальную информацию, такую как адрес электронной почты или кредитную карту, что создает риски для конфиденциальности, или оплатой каждого запроса в блокчейне, которая является медленной, дорогой и отслеживаемой.
Дуэт предлагает систему, в которой пользователи вносят средства в смарт-контракт, а затем совершают API-вызовы, не раскрывая свою личность или связывая запросы, используя доказательства с нулевым разглашением и аннулирование ограничений скорости для платежей и обеспечения защиты от спама.
“Пользователь вносит 100 USDC в смарт-контракт и делает 500 запросов к размещенному LLM. Провайдер получает 500 действительных оплаченных запросов, но не может связать их с одним и тем же вкладчиком или друг с другом, в то время как запросы пользователя остаются не связанными с его личностью”, — заявили Crapis и Buterin.
“Модель обеспечивает платежеспособность, требуя от пользователя доказать, что его кумулятивные расходы — представленные его текущим индексом тикета — остаются строго в пределах его первоначального депозита и подтвержденной истории возврата средств.”
Попытки обмана системы могут привести к потере депозита
Для сдерживания мошенников, генерации незаконного контента, попыток взлома и других нарушений условий обслуживания Crapis и Buterin предлагают систему двойного стейкинга.
Если пользователя поймают на попытке двойной траты, его депозит может быть заявлен любым, включая сервер. Однако пользователи, нарушающие условия обслуживания, увидят, как их депозит будет отправлен на адрес сжигания, а событие сокращения будет зафиксировано в блокчейне.
“Например, пользователь может отправить запрос модели с просьбой сгенерировать инструкции по изготовлению оружия или помочь ему обойти средства безопасности — запросы, которые нарушают политику использования многих провайдеров”, — заявили Crapis и Buterin.
“Хотя личность пользователя остается скрытой, сообщество может проверить скорость, с которой сервер сжигает ставки, и представленные доказательства этих сжиганий.”
