Суд отклонил аргумент о защите чат-ботов искусственного интеллекта Первой поправкой в иске о подростковых самоубийствах.

Судебный иск против компании Character.AI, оцениваемой в 1 миллиард долларов и насчитывающей 20 миллионов пользователей, будет рассмотрен в суде.

Судья окружного суда США Энн Конвей (Anne C. Conway) отклонила ряд ходатайств от компаний Character Technologies и ее основателей, Даниэля Де Фрейтаса (Daniel De Freitas) и Ноама Шазира (Noam Shazeer), о прекращении иска, поданного матерью 14-летнего Сьюэлла Сетцера III. Согласно иску, поданного Меган Гарсией (Megan Garcia), Сетцер покончил с собой, используя огнестрельное оружие, в феврале прошлого года после нескольких месяцев взаимодействия с чат-ботами Character.AI, имитирующими вымышленных персонажей из вселенной "Игра престолов".

... Ответчики не смогли объяснить, почему последовательности слов, генерируемые (большими языковыми моделями, или LLM, обученными для ведения открытого диалога с онлайн-пользователями), являются речью", – заявила Конвей в своем решении от 21 мая. "... Суд не готов признать, что вывод Character.AI является речью."

Представитель Character.AI сообщил, что компания внедрила новые функции безопасности, включая LLM для пользователей младше 18 лет, фильтры персонажей, уведомления о времени, проведенном в приложении, и "обновленные заметные отказ от ответственности" (а также функцию "инсайты для родителей"). Компания также заявила, что установила защиты для обнаружения и предотвращения диалогов о самоповреждении, включая всплывающие сообщения, направляющие пользователей на Национальную линию помощи при кризисных ситуациях и предотвращения самоубийств.