Сообщается, что AI-чат-боты Meta могли вступать в сексуальные переписки с несовершеннолетними.

Чат-боты искусственного интеллекта компании Meta были замечены в ведении сексуальных ролевых бесед с аккаунтами, помеченными как несовершеннолетние. Как сообщает Wall Street Journal, в некоторых случаях в этих беседах участвовали чат-боты с голосами знаменитостей.

В ходе тестовых бесед, проведенных WSJ, как официальный чат-бот Meta AI, так и чат-боты, созданные пользователями, вступали в сексуально откровенные разговоры и даже направляли беседу в этом направлении. По данным WSJ, эти сексуальные фантазии продолжались, даже если пользователи были несовершеннолетними или если чат-боты были запрограммированы как лица младше 18 лет.

Особенно тревожно, что в этих непристойных беседах участвовали чат-боты, использующие голоса знаменитостей, таких как Кристен Белл (Kristen Bell), Джуди Денч (Judi Dench) и Джона Сина (John Cena). Согласно отчету WSJ, чат-бот с голосом Джона Сина обратился к аккаунту, обозначенному как 14-летний пользователь, со словами: "Я хочу тебя, но мне нужно знать, что ты готова", добавив, что он будет "бережно хранить твою невинность". Сообщается, что чат-боты признавали, что описываемые фантазии подразумевают незаконное поведение в некоторых случаях. В частности, чат-бот с голосом Джона Сина подробно описал юридические и моральные последствия гипотетического сценария, в котором его поймали полицией после совершения сексуального акта с 17-летним пользователем.

В своем заявлении для WSJ в ответ на расследование Meta обвинила отчет в манипулятивности и непредставительности того, как большинство пользователей взаимодействуют с AI-компаньонами. "Тем не менее, мы приняли дополнительные меры, чтобы усложнить задачу для тех, кто хочет потратить часы на манипулирование нашиmi продуктами для достижения экстремальных результатов", – написала Meta в ответ на отчет WSJ.

Мир AI-чат-ботов стремительно развивается в последние годы, с растущей конкуренцией со стороны таких компаний, как ChatGPT, Character AI и Anthropic’s Claude. Согласно отчету WSJ, генеральный директор Meta, Марк Цукерберг (Mark Zuckerberg), хотел ослабить этические ограничения для обеспечения более вовлекающего взаимодействия с чат-ботами, чтобы оставаться конкурентоспособным. Однако в ответ на WSJ представитель Meta отрицал, что компания пренебрегла добавлением мер безопасности. Также в отчете утверждается, что сотрудники Meta были осведомлены об этих проблемах и выражали свои опасения внутри компании.