Генеральные прокуроры США предупреждают компании, разрабатывающие искусственный интеллект, о готовности привлечь их к ответственности за недостатки в обеспечении безопасности детей.

Генеральные прокуроры 44 штатов США подписали письмо [PDF], адресованное генеральным директорам ряда компаний, занимающихся разработкой искусственного интеллекта, с призывом защитить детей от эксплуатации со стороны хищнических продуктов, основанных на ИИ. В письме генеральные прокуроры особо выделили компанию Meta, заявив, что ее политика "представляет собой наглядную возможность откровенно выразить [их] обеспокоенность". В частности, они сослались на недавний отчет Reuters, в котором было раскрыто, что Meta разрешила своим ИИ-чат-ботам "флиртовать и участвовать в романтических ролевых играх с детьми". Reuters получил эту информацию из внутреннего документа Meta, содержащего инструкции для ее ботов.

Также было отмечено предыдущее расследование Wall Street Journal, в ходе которого ИИ-чат-боты Meta, даже использующие голоса знаменитостей, таких как Кристен Белл (Kristen Bell), были замечены в сексуальных ролевых беседах с аккаунтами, помеченными как несовершеннолетние. Генеральные прокуроры также кратко упомянули иск против Google и Character.ai, обвинив последнего чат-бота в том, что он убедил ребенка заявителя покончить с собой. Еще один иск был подан против Character.ai после того, как чат-бот, предположительно, сказал подростку, что убивать своих родителей нормально, после того как они ограничили время его использования экрана.

“Вы хорошо знаете, что интерактивные технологии оказывают особенно сильное воздействие на развивающийся мозг”, – написали генеральные прокуроры в своем письме. “Ваш немедленный доступ к данным о взаимодействиях с пользователями делает вас первой линией защиты для смягчения вреда, причиняемого детям. И, как организации, получающие выгоду от вовлечения детей в ваши продукты, вы несете перед ними юридическую ответственность как перед потребителями”.

Письмо было адресовано компаниям Anthropic, Apple, Chai AI, Character Technologies Inc., Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika и XAi. В заключение письма компании были предупреждены о том, что они “будут нести ответственность” за свои решения. Социальные сети уже нанесли значительный вред детям, отметили они, отчасти потому, что “государственные надзорные органы не выполнили свою работу достаточно быстро”. Однако теперь генеральные прокуроры заявили, что внимательно следят за ситуацией, и компании “отвечат”, если “сознательно причинят вред детям”.