ИИ генерирует фиктивные судебные дела

Крупная американская юридическая фирма Morgan & Morgan, специализирующаяся на делах о личном ущербе, разослала срочное предупреждение более чем 1000 своих юристов после инцидента с использованием искусственного интеллекта в судебной практике. Причиной стал случай, когда ИИ сгенерировал несуществующие судебные прецеденты, что поставило под угрозу репутацию фирмы и карьеру её сотрудников.

Ситуация обострилась после того, как федеральный судья в Вайоминге пригрозил санкциями двум юристам фирмы, включившим фиктивные судебные ссылки в иск против Walmart. Один из адвокатов признался в судебных документах на прошлой неделе, что использовал ИИ-программу, которая «галлюцинировала» несуществующие дела, и принес извинения за то, что назвал непреднамеренной ошибкой.

По данным Reuters, тенденция генерации ИИ юридической фикции в судебных документах привела к тому, что суды по всей стране начали подвергать сомнению или применять дисциплинарные меры к адвокатам как минимум в семи случаях за последние два года. Это создало новую высокотехнологичную проблему как для участников судебных процессов, так и для судей.

Дело Walmart выделяется тем, что в нем участвует известная юридическая фирма и крупный корпоративный ответчик. Однако подобные примеры появились в различных судебных исках с момента, когда чат-боты вроде ChatGPT открыли эру ИИ, подчеркивая новые риски в судебных разбирательствах.

Представитель Morgan & Morgan не ответил на запрос о комментариях, а Walmart отказался от комментариев. Судья пока не вынес решение о дисциплинарных мерах в отношении юристов по делу Walmart, которое касалось предположительно бракованной игрушки-ховерборда.

Этот случай демонстрирует растущие риски использования искусственного интеллекта в юридической практике и подчеркивает необходимость более тщательной проверки генерируемой ИИ информации, особенно когда речь идет о судебных документах.