В Нью-Мексико адвокат решил прибегнуть к помощи ИИ при подготовке документов, однако не учел, что сгенерированные данные могут существенно расходиться с реальностью, и поплатился за это.
Стивен Ааронс, адвокат из штата Нью-Мексико, получил штраф от Верховного суда штата за предоставление документов с измышлениями, созданными ChatGPT. Решение содержится в постановлении суда.
При работе над апелляционной жалобой по уголовному делу Ааронс обращался к ChatGPT. В итоговом документе оказались свидетельские показания полностью несуществующих лиц, перекрученные данные о реальных свидетелях и неверные ссылки на судебные прецеденты.
Адвокат сам подтвердил суду, что перед подписанием и направлением жалобы он не проверил ни фактические утверждения, ни правовые основания в материале, созданном с участием ИИ. Эта информация приводится в судебном сообщении.
За неуважение к суду Ааронсу назначили выплату 5 тысяч долларов в фонд защиты клиентов адвокатуры штата. Его клиент получил другого защитника. Самому адвокату временно закрыли доступ к выступлениям в Верховном суде штата на период до завершения дела.
Речь, как сообщает Reuters, шла об обжаловании вердикта по делу об убийстве. Разговаривая с агентством, адвокат объяснил, что использовал нейросеть для сжатого пересказа процесса и не знал о склонности ИИ к изобретению фактов.
Ааронс признал свою вину и выразил надежду, что дисциплинарная комиссия оценит ошибку как непреднамеренную. Произошедшее, по его словам, должно послужить предупреждением всем профессионалам, работающим с этой мощной, но недостаточно стабильной технологией.
Галлюцинированием искусственного интеллекта называют категоричные, но не соответствующие действительности или откровенно неверные ответы системы. В отчете OpenAI за 2025 год зафиксировано: доля ошибок, генерируемых ИИ, составляет от 33 до 48%.
