Искусственный интеллект уже выдумывает факты не только для адвокатов, но и для судей
Генеративный искусственный интеллет (ИИ) уже выдумывает факты не только за адвокатов. Ошибки начали проникать в судебные решения, прокурорские документы и показания экспертов, хотя американские суды наказывают юристов за непроверенные ответы нейросетей уже третий год.
Только за несколько дней сентября в США всплыли три показательных эпизода. В Нью-Мексико адвокат подал апелляцию по делу об убийстве с несуществующими свидетелями и выдуманными показаниями полиции. В Оклахоме судья Лоуренс Уилер признал, что использовал ChatGPT для исследования и включил в постановление ссылки на два дела, которых не существовало. В Калифорнии юриста State Farm оштрафовали за ошибочные ссылки и цитаты в семи судебных документах. Недавний случай с выдуманными свидетелями показал, что проблема давно вышла за пределы обычных ошибок в названиях дел.
Масштаб хорошо виден по базе судебных случаев исследователя Дамьена Шарлотена. По состоянию на 14 сентября 2026 года в ней было 2041 дело по всему миру, включая 1395 в США. База отдельно отмечает 32 случая, где ИИ использовали судьи, 5 случаев с прокурорами и 15 с экспертами. Самая частая проблема по-прежнему связана с выдуманными судебными прецедентами, но встречаются ложные цитаты, искажённое содержание реальных решений и сфабрикованные материалы дела.
Такие ошибки принято называть галлюцинациями ИИ. Языковая модель строит правдоподобный ответ по статистическим закономерностям и может уверенно вставить несуществующее дело, цитату или факт. Для суда правдоподобная форма особенно опасна, поскольку выдуманная ссылка выглядит как обычный юридический источник и легко проходит в документ, если человек не сверяет первоисточник.
Первый громкий американский эпизод закончился санкциями ещё в 2023 году. Тогда два нью-йоркских адвоката использовали ChatGPT и сослались на шесть вымышленных решений. Суд назначил каждому штраф в $5000. SecurityLab подробно разбирал, как адвокаты получили штрафы за документы с несуществующими делами. Спустя три года похожие истории не исчезли, а участников стало больше.
Одной из причин Марк Маккенна из Института технологий, права и политики UCLA называет гонку юридических фирм за внедрением ИИ, давление сроков и маркетинг, который смягчает разговор о рисках. Нейросеть быстро разбирает массив документов и готовит черновик, но скорость превращается в проблему, когда проверку ответа воспринимают как необязательный этап.
Особенно чувствительны ошибки внутри самих судов. В Миссисипи помощник федерального судьи использовал Perplexity при подготовке постановления, после чего в тексте обнаружили несуществующие имена и правовые основания. Спор дошёл до апелляции, где власти штата потребовали передать дело другому судье. Похожий вопрос о границах автоматизации возникает и там, где ИИ внедряют в суды уже как рабочий инструмент.
Сентябрьская серия показывает, почему одних штрафов оказалось мало. Судебная система находит часть ошибок благодаря проверке другой стороной и самим судьёй, но рост таких эпизодов продолжается. Санкции варьируются от предупреждений и денежных взысканий до передачи материалов в дисциплинарные органы. Когда ложный факт попадает уже в судебное постановление, дополнительного независимого фильтра может не оказаться.
В Великобритании суды уже предупредили, что несуществующие ссылки из генеративного ИИ могут закончиться не только профессиональными санкциями. В отдельных случаях юристам грозит ответственность за неуважение к суду, а при серьёзных обстоятельствах возможны и более жёсткие последствия. Такая практика стала ответом на поток фейковых судебных дел в документах.
Появилась и обратная угроза, когда участники процесса пытаются воздействовать на ИИ, которым пользуется суд. В США уже разбирали случай со скрытой промпт-инъекцией в судебном документе, рассчитанной на автоматическую проверку материалов нейросетью.
Суды параллельно готовятся к ещё одному классу проблем, связанному с доказательствами, созданными ИИ. Американская судебная система уже обсуждает, как проверять дипфейк-доказательства, чтобы генеративные технологии не превратили проверку фактов в отдельный процесс внутри каждого дела.