Meta борется с приложениями для «обнажения» с помощью ИИ.

Компания Meta наконец-то начала решительные действия против приложений, использующих искусственный интеллект для создания несанкционированных обнаженных и откровенных изображений знаменитостей, инфлюенсеров и других лиц. Компания подала в суд на одного из разработчиков приложений, который активно рекламировал подобные сервисы в Facebook и Instagram, а также предпринимает новые шаги для предотвращения размещения рекламы аналогичных услуг.

Решение о пресечении этой практики последовало спустя несколько месяцев после того, как ряд исследователей и журналистов выразили обеспокоенность по поводу подобных приложений. Недавний отчет CBS News выявил как минимум "сотни" рекламных объявлений на платформе Meta, продвигающих приложения, позволяющие пользователям "удалять одежду" с изображений знаменитостей и других людей.

Особенно активно рекламировалось приложение Crush AI, которое, по данным исследователя Алексиоса Манцарлиса (Alexios Mantzarilis), директора Инициативы по безопасности, доверию и защите Cornell Tech, разместило более 8000 рекламных объявлений в Facebook и Instagram с прошлой осени.

Теперь Meta заявляет, что подала в суд на Joy Timeline HK Limited, гонконгскую компанию, стоящую за Crush AI и другими приложениями, создающими откровенные изображения. "Это последовало за многочисленными попытками Joy Timeline HK Limited обойти процесс проверки рекламы Meta и продолжать размещать эти объявления, после того, как они неоднократно удалялись за нарушение наших правил", – говорится в сообщении компании в блоге.

Joy Timeline HK Limited пока не ответила на запрос о комментарии. Meta также заявляет, что предпринимает новые шаги для предотвращения рекламы подобных приложений на своей платформе. "Мы разработали новые технологии, специально предназначенные для выявления таких объявлений – даже если сами объявления не содержат обнаженного контента – и используем технологии сопоставления, чтобы быстрее находить и удалять поддельные объявления", – сообщает Meta.

"Мы сотрудничали с внешними экспертами и наши собственные специализированные команды, чтобы расширить список терминов, фраз и эмодзи, связанных с безопасностью, которые обнаруживаются наши системы в этих объявлениях". Социальная сеть также планирует сотрудничать с другими технологическими платформами, включая владельцев магазинов приложений, чтобы деляться соответствующей информацией об организациях, злоупотребляющих ее платформой.

Приложения, создающие откровенные изображения, – не единственные, кто использовали рекламную платформу Meta для размещения рекламы с использованием дипфейков знаменитостей. Meta также испытывает трудности с ограничением недобросовестных рекламодателей, использующих видео с участием публичных лиц, подвергшееся манипуляциям с помощью ИИ, для продвижения мошеннических схем. Независимый Надзорный совет компании, который оценивает вопросы модерации контента в Facebook и Instagram, недавно раскритиковал Meta за недостаточное обеспечение соблюдения правил, запрещающих такую рекламу.