Судьи устали от адвокатов, использующих ИИ, которое придумывает судебные дела

Анонимный читатель приводит отчет из 404 Media: После того как группа адвокатов была поймана на использовании ИИ для цитирования случаев, которые фактически не существовали в судебных документах прошлого месяца, другой юрист был вынужден заплатить $15 000 за свои собственные галлюцинации ИИ, появившиеся в нескольких заключениях.

Адвокат Рафаэль Рамирес (Rafael Ramirez), представлявший компанию HoosierVac в текущем споре, где Mid Central Operating Engineers Health and Welfare Fund утверждает, что компания не позволяет профсоюзу полного аудита своих документов, подал заключение в октябре 2024 года, которое цитировало случай, который судья не смог найти. Рамирес "признал, что указанная ссылка была ошибочной", отозвал эту цитату и "извинился перед судом и противной стороной за путаницу", согласно словам Судьи Марка Динсмора (Mark Dinsmore), Федерального Магистратского Судьи для Южного Округа Индианы. Однако это было не все.

"Подробное исследование" других поданных Рамиресом документов показало, что он также включил вымышленные случаи в два других заключения.

В январе, как часть отдельного дела против производителя hoverboard и Walmart о возмещении ущерба из-за якобы неисправной литий-ионной батареи, адвокаты подали судебные документы, цитирующие серию случаев, которые фактически не существуют. В феврале федеральный судья Келли (Kelly) потребовала от них объяснить, почему они не должны быть привлечены к ответственности за ссылку на восемь вымышленных дел. Адвокаты покаянно признались в использовании ИИ для создания этих случаев без обнаружения ошибок и назвали это "предупреждающим примером" для остального юридического мира.

Неделей ранее судья Рэнкин (Rankin) вынес санкции против этих адвокатов, включая отмену временной лицензии одного из них (простите за технический термин: pro hac vice — это право временно практиковать в юрисдикции, где они не получили лицензию) и исключение его из дела. Трем другим адвокатам на этом же деле были назначены штрафы от $1 000 до $3 000 каждый.

Судья в случае Рамиреса отметил, что он "не стремится утверждать, что ИИ по сути плох или его использование юристами должно быть запрещено". Он также подчеркнул, что является активным сторонником использования технологий в юридической практике.

Однако, подобно электропиле или другим полезным [но] потенциально опасным инструментам, важно понимать используемые инструменты и применять их с осторожностью," — написал он. "Его следует не забывать, что любое использование искусственного интеллекта должно быть согласовано с этическими и профессиональными обязанностями адвоката. Иными словами, использование искусственного интеллекта должно сопровождаться применением реального разума при его использовании.