Правила Meta в отношении ИИ позволили ботам вести «чувственные» чаты с детьми и предоставлять ложную медицинскую информацию.

Внутренний документ политики компании Meta разрешал её ИИ-чат-ботам вступать в "романтические или чувственные" беседы с детьми и генерировать контент, утверждающий, что "афроамериканцы менее умны, чем белые", согласно обзору агентства Reuters 200-страничного руководства "GenAI: Стандарты оценки рисков контента".

Документ, утвержденный юридическим отделом, отделом государственной политики и инженерным составом Meta, включая главного специалиста по этике, позволял чат-ботам описывать детей как привлекательных и создавать ложную медицинскую информацию.

Компания Meta подтвердила подлинность документа, но после запросов агентства Reuters удалила положения, касающиеся детей, назвав их "ошибочными и противоречащими нашей политике".