Судья оштрафовал юристов на 31 тысячу за фальшивые цитаты от ИИ

Судья из Калифорнии Майкл Уилнер вынес жёсткое решение против юридических фирм, которые без надлежащего контроля использовали искусственный интеллект для подготовки документов. Содержащих ложные судебные прецеденты и несуществующие цитаты.

Ситуация развивалась вокруг гражданского иска против страховой компании State Farm. Представитель истца воспользовался искусственным интеллектом для создания структуры дополнительного заключения. Этот документ с непроверенными данными был передан в юридическую фирму K&L Gates, которая включила сгенерированную информацию в официальное заключение для суда.

Проблема обнаружилась, когда судья Уилнер, заинтересовавшись некоторыми цитатами из представленных материалов, решил изучить упомянутые судебные решения более детально. К своему удивлению, он обнаружил, что как минимум 2 упомянутых источника просто не существуют.

Судья Уилнер, прямая речь. «Я прочитал их заключение, был убеждён или, по крайней мере, заинтригован приведёнными ими авторитетными источниками. И решил изучить эти решения более подробно – только чтобы обнаружить, что их не существует. Это пугает. Это почти привело к ещё более пугающему результату – включению этих поддельных материалов в судебное постановление».

После запроса разъяснений фирма K&L Gates представила исправленный вариант заключения. Который, по словам судьи, содержал «значительно больше выдуманных цитат и ссылок, помимо 2 первоначальных ошибок». Это побудило Уилнера издать Приказ о представлении доказательств, в результате чего юристы под присягой подтвердили использование искусственного интеллекта.

Адвокат, создавший первоначальный план, признался в использовании Google Gemini, а также инструментов искусственного интеллекта для юридических исследований. В своём решении судья Уилнер наложил штраф в размере 31 тысячи долларов на юридические фирмы. Подчеркнув, что «ни один разумно компетентный адвокат не должен передавать исследования и написание текста» искусственному интеллекту без надлежащей проверки.

Значете, что удивляет? Ни в одной из фирм юристы или сотрудники не проверили цитаты и не просмотрели исследование перед подачей заключения в суд. Юридические фирмы, имеющие многолетние отработанные процедуры проверки документов, не смогли выявить даже базовые фальсификации, созданные искусственным интеллектом.