Claude AI сгенерировал фальшивые судебные цитаты; адвокат извинился и признал, что допустил ошибку

В рамках судебного разбирательства в федеральном суде, связанного с масштабными федеральными увольнениями при администрации Трампа, адвокат Jason Grieves 16 мая подал заявление, признав, что в поданных в суд ходатайственных документах содержатся ложные цитаты, которые появились после того, как он составил ходатайство с помощью корпоративной AI-платформы Anthropic Claude Console.

Подтвержденная хронология событий: полный ход заявления Grieves

6 мая утром (подтверждено): В условиях дефицита времени Grieves использовал Claude Console, чтобы создать черновик ходатайства, и отправил этот черновик одному помощнику-юристу, при этом дал устные указания: «Этот черновик сгенерирован искусственным интеллектом, ей нужно тщательно проверить цитаты».

6 мая днем (подтверждено): Помощник-юрист сообщил Grieves, что он/она просмотрел(а) и проверил(а) каждую цитату. Выяснилось, что два дела процитированы неверно, а также найдено другое заменяющее дело; однако ложные цитаты всё равно попали в окончательно поданные документы.

Grieves в своем заявлении подтвердил две позиции ответственности: «Обеспечение того, чтобы цитаты были полностью точными и безошибочными — это моя ответственность, и я несу за это полную ответственность»; «Хотя приводимые дела в целом могли поддерживать нашу позицию, допустить включение ложных цитат — непростительная ошибка».

Подтвержденное описание Claude Console

Claude Console (ранее Anthropic Developer Console) был запущен в марте 2023 года и представляет собой корпоративную AI-платформу Anthropic, предназначенную для предприятий и профессионалов, чтобы взаимодействовать с AI-моделью Claude; среди задач — подготовка документов, сводки, кодинг и исследования. В заявлении Grieves описывает его как «корпоративную AI-платформу с изоляцией данных», отличая от предназначенного для потребителей Claude.ai.

Контекст подтвержденного прецедента: AI-галлюцинации попадают в суд

В апреле 2026 года адвокаты юридической фирмы Sullivan & Cromwell получили официальное наказание за подачу в суд AI-сгенерированных фальшивых юридических цитат. Дело Grieves по разбирательству администрации Трампа о массовых федеральных увольнениях включает в себя сокращение персонала FEMA и предложенные реформы защиты государственных служащих; конкретные решения суда о дальнейшей обработке пока не опубликованы.

Часто задаваемые вопросы

Как Grieves объясняет распределение ответственности за появление ложных цитат?

Согласно заявлению Grieves, он прямо устно сообщил помощнику-юристу, что черновик был сгенерирован AI, и потребовал проверки; помощник подтвердил просмотр, но ложные цитаты всё равно прошли в подачу. Grieves прямо указал, что несет полную ответственность как руководящий партнер и подписант поданного документа, не перекладывая вину ни на помощника, ни на сам AI-инструмент.

Чем отличается Claude Console от обычного использования Claude AI?

Claude Console (Anthropic Developer Console) — это корпоративная AI-платформа, использующая дизайн изоляции данных и ориентированная на предприятия и профессиональных пользователей; она отличается от потребительской версии Claude.ai в том, как обрабатываются данные и как устроены комплаенс-механизмы. Grieves отдельно подчеркивает, что используется «корпоративная AI-платформа с изоляцией данных», но это не предотвращает возникновение AI-галлюцинаций (генерацию ошибочных цитат).

Как суд рассматривает случаи с AI-сгенерированными ложными цитатами?

В апреле 2026 года адвокаты по делу Sullivan & Cromwell уже получили официальное наказание за аналогичные проблемы. В деле Grieves адвокат уже официально принес извинения суду; конкретный результат дальнейшего рассмотрения со стороны суда пока не опубликован.