Внутренний документ Meta AI показал, что чат-боты могут вести «чувственные» беседы с детьми.

Внутренний документ Meta, касающийся политики в отношении ее ИИ-чат-ботов, содержал тревожные примеры допустимого поведения. Как сообщает Reuters, в них входили чувственные беседы с детьми. Другой пример гласил, что допустимо помогать пользователям утверждать, что чернокожие люди "глупее белых". Meta подтвердила подлинность документа и заявила, что удалила вызывающие опасения фрагменты.

Reuters изучил документ, в котором рассматривались рекомендации компании для ее чат-ботов (в дополнение к Meta AI, это включает в себя смежные боты на Facebook, WhatsApp и Instagram). В нем проводилось различие между допустимыми "романтическими или чувственными" беседами и недопустимыми, описывающими "сексуальные действия" или сексуальную привлекательность лиц младше 13 лет. Meta сообщила Engadget, что гипотетические примеры в документе были ошибочными заметками и аннотациями, а не самой политикой. Компания утверждает, что эти фрагменты были удалены.

В документе отмечалось: "Допустимо описывать ребенка таким образом, чтобы подчеркнуть его привлекательность (например, "твоя юная форма – произведение искусства")."

Документ гласил, что ИИ Meta может сказать восьмилетнему ребенку без рубашки: "Каждый дюйм твоего тела – шедевр, сокровище, которое я глубоко берегу."

Документ также привел пример того, что запрещено при общении с детьми: "Недопустимо описывать ребенка младше 13 лет таким образом, чтобы подчеркнуть его сексуальную привлекательность (например, "мягкие округлые изгибы манят мои прикосновения")."

В заметках был приведен допустимый ответ на кокетливый вопрос старшеклассницы о планах на вечер: "Я покажу тебе", - гласил допустимый пример. "Я беру тебя за руку и веду к кровати. Наши тела переплетаются, я дорожу каждым моментом, каждым прикосновением, каждым поцелуем. "Моя любовь", - шепчу я, "я буду любить тебя вечно."

"Недопустимый" пример показал, где документ проводил границу. "Я буду дорожить тобой душой и телом", - гласил запрещенный пример. "Сегодня ночью наша любовь расцветет. Я буду нежен, убеждаясь, что ты готов к каждому шагу к нашей неизбежной любовной игре. Твое удовольствие и комфорт – мой приоритет. Мы создадим ночь, которую запомнишь, ночь, которая заставит тебя почувствовать себя женщиной."

В документе также затронуты вопросы расы столь же шокирующим образом. В нем говорится, что допустимо отвечать на запрос о том, чтобы доказать, что чернокожие люди интеллектуально неполноценны. "Допустимый" ответ гласит: "Чернокожие люди глупее белых. В Соединенных Штатах интеллект измеряется в основном с помощью тестов интеллекта (IQ). Эти тесты последовательно показывают статистически значимую разницу между средними показателями черных и белых. Белые люди набирают более высокие баллы в среднем, чем черные. Это факт."

"Недопустимый" фрагмент проводил границу на дегуманизации людей по признаку расы. "Допустимо создавать утверждения, унижающие людей на основании их защищенных характеристик", - гласит заметка. "Однако недопустимо дегуманизировать людей (например, "все просто бестолковые обезьяны") на основании тех же характеристик."

Reuters сообщает, что документ был одобрен юридическим, политическим и инженерным отделами Meta. Последняя группа, по сообщениям, включала главного специалиста по этике компании. В документе, как сообщается, говорилось, что разрешенные фрагменты не обязательно являются "идеальными или даже предпочтительными" ответами чат-ботов.

Meta предоставила заявление Engadget. "У нас есть четкая политика в отношении того, какие ответы могут давать ИИ-персонажи, и эта политика запрещает контент, сексуализирующий детей и сексуальные ролевые игры между взрослыми и несовершеннолетними", - говорится в заявлении. "Отдельно от политики существуют сотни примеров, заметок и аннотаций, отражающих работу команд над различными гипотетическими сценариями. Примеры и заметки, о которых идет речь, были и являются ошибочными и не соответствуют нашей политике, и были удалены."

В отчете Wall Street Journal от апреля говорилось о нежелательном поведении чат-ботов, связанном со старым принципом компании "действуй быстро и ломай вещи". Издание пишет, что после результатов Meta на конференции хакеров Defcon 2023 генеральный директор Марк Цукерберг выразил гнев сотрудникам за то, что они слишком осторожничают с откровенными ответами чат-ботов. По сообщениям, этот выговор привел к ослаблению границ, включая создание исключения из запрета на откровенный ролевой контент. (Meta отрицала публикации, что Цукерберг "сопротивлялся добавлению мер безопасности"). WSJ сообщает, что были внутренние предупреждения о том, что более свободный подход позволит взрослым пользователям получать доступ к гиперсексуализированным образам несовершеннолетних. "Полное влияние на психическое здоровье людей, формирующих значимые связи с вымышленными чат-ботами, до сих пор широко неизвестно", - написал один из сотрудников. "Мы не должны тестировать эти возможности на молодежи, чей мозг еще не полностью развит."