Юридическая фирма Wall Street Sullivan & Cromwell принесла извинения федеральному судье после подачи в суд документа, содержащего около 40 неверных ссылок и других ошибок, вызванных галлюцинациями ИИ.
«Мы глубоко сожалеем о случившемся», — написал в пятницу в письме Эндрю Дитдерих, соруководитель глобальной группы по реструктуризации Sullivan & Cromwell, главному судье Мартину Гленну из окружного суда США по делам о банкротстве в Южном округе Нью-Йорка.
«Фирма и я отчетливо осознаем нашу ответственность за обеспечение точности всех представленных материалов, включая требования местного правила о банкротстве 9011-1(d), и я беру на себя ответственность за невыполнение этого требования», — говорится о поданном девять дней назад экстренном ходатайстве.
Выдержка из письма Эндрю Дитдериха главному судье Мартину Гленну. Источник: Sullivan & Cromwell
Этот инцидент подчеркивает риск, который инструменты ИИ могут представлять при выполнении высокорисковых профессиональных задач без надлежащего надзора. База данных, управляемая специалистом по юридическим технологиям Дамьеном Шарлотеном, зарегистрировала 1 334 случая галлюцинаций ИИ в судебных документах по всему миру, в том числе более 900 в США.
Шарлотен указал на то, что большинство этих галлюцинаций включают сфабрикованные ссылки, хотя юридические аргументы, сгенерированные ИИ, также иногда выявлялись.
Дитдерих заявил, что в Sullivan & Cromwell существуют правила использования инструментов ИИ, которые включают проверку используемых ссылок, но сказал, что эти правила не были соблюдены.
«К сожалению, этот процесс проверки не выявил неточных ссылок, сгенерированных ИИ, и не выявил других ошибок, которые, по-видимому, возникли полностью или частично из-за ручной ошибки».
Sullivan & Cromwell — одна из крупнейших юридических фирм в США по доходам, занимающая 30-е место в рейтинге AmLaw Global 200. Фирма также представляла криптовалютную биржу FTX в деле о банкротстве.
Sullivan & Cromwell проводит внутреннее расследование
Дитдерих заявил, что юридическая фирма предприняла «немедленные корректирующие меры», включая полную проверку обстоятельств, приведших к ошибкам.
Фирма также «оценивает, нужны ли дальнейшие улучшения ее внутренних учебных и обзорных процессов», — заявил Дитдерих.
Дитдерих также отметил, что ошибки обнаружила конкурирующая юридическая фирма.
«Я также позвонил Boies Schiller Flexner LLP в пятницу, чтобы поблагодарить их за обращение внимания на этот вопрос и принести им свои прямые извинения», — сказал он.
