Юристу Anthropic пришлось извиниться после того, как Claude сгенерировал несуществующую юридическую ссылку.

Представитель компании Anthropic признал, что в ходе текущего судебного разбирательства с музыкальными издателями использовалась ошибочная цитата, сгенерированная их чат-ботом Claude. Об этом говорится в документе, поданном в окружной суд Северной Калифорнии в четверг. По словам Anthropic, Claude "галлюцинировал" цитату, указав неточное название и неверных авторов. Юристы Anthropic объяснили, что их "ручная проверка цитат" не выявила ошибку, равно как и несколько других, вызванных галлюцинациями Claude.

Компания Anthropic принесла извинения за ошибку, назвав её "непреднамеренной ошибкой в цитировании, а не фальсификацией авторитета". Ранее на этой неделе юристы, представляющие Universal Music Group и других музыкальных издателей, обвинили эксперта-свидетеля Anthropic, Оливию Чен (Olivia Chen), в использовании Claude для цитирования вымышленных статей в ее показаниях. Федеральный судья Сьюзан ван Кеулен (Susan van Keulen) потребовала от Anthropic ответа на эти обвинения.

На прошлой неделе калифорнийский судья оштрафовал две юридические фирмы на 31 000 долларов за нераскрытое использование ИИ, после получения дополнительного брифа с "многочисленными ложными, неточными и вводящими в заблуждение юридическими цитатами и цитатами". Судья заявил, что "ни один разумно компетентный юрист не должен передавать исследования и написание текстов на аутсорсинг" ИИ.