Адвоката из Нью-Мексико оштрафовали за ИИ-записку с выдуманными показаниями полиции

Верховный суд Нью-Мексико сообщил, что в поданном защитой документе были «ложные показания полностью выдуманных свидетелей». Судьи также заявили, что адвокат продемонстрировал отсутствие раскаяния и заботы о клиенте.

Адвокат Стивен Ааронс в заявлении рассказал, что в прошлом году согласился вести апелляцию обвинительного приговора и использовал ChatGPT для пересказа судебного разбирательства. По его словам, он не понимал, насколько сильно ИИ способен «галлюцинировать» факты.

Ааронс признал, что сожалеет о случившемся, но надеется: дисциплинарная коллегия учтёт, что это была честная ошибка. Он назвал произошедшее уроком для всех специалистов, которые полагаются на мощную, но иногда нестабильную технологию.

OpenAI не сразу ответила на запрос о комментарии.

Санкция суда стала новым эпизодом в растущем числе дел, где судьи штатов и федеральных судов наказывают адвокатов за подачу документов, созданных с помощью ИИ и не прошедших достаточную проверку. Под критику попадали и судьи, использовавшие ИИ.

Десятки адвокатов уже получили взыскания за документы, в которых ИИ придумывал ссылки на судебные дела или неверно цитировал законы. Однако в случае Ааронса система, судя по всему, пошла дальше: в апелляции по уголовному делу появились выдуманные показания свидетелей.

Ааронс — частный адвокат из Санта-Фе. Он представлял Оскара Рене Сандоваля, которого признали виновным в убийстве матери его детей. До вынесения приговора Сандоваль не признал вину, а в прошлом году получил пожизненное заключение.

Апелляция всё ещё рассматривается. 2 сентября её передали государственному защитнику Нью-Мексико Ким Чавес Кук. Кук отказалась от комментариев. Представители местной прокуратуры также не стали комментировать дело.

В прошлом месяце Верховный суд штата потребовал от Ааронса объяснить, как выдуманный материал оказался в основной апелляционной записке. По словам суда, среди него были «вымышленные утверждения о том, что стрелок носил тёмные брюки и белую рубашку».

На слушании 21 августа Ааронс рассказал, что загрузил в ChatGPT расшифровку, созданную компьютером, и другие материалы дела. Он рассчитывал получить «безупречное резюме».

Судьи выразили недоверие к тому, что адвокат не знал о способности ИИ ошибаться. Судья Шеннон Бэкон спросила, смотрит ли он новости, слушает радио или вообще читает о происходящем в мире. По её словам, проблема зависимости адвокатов от галлюцинаций ИИ каждый день появляется на первых полосах.