Meta усиливает борьбу с приложениями, выявляющими наготу, после разоблачения.

Компания Meta подала в суд на Joy Timeline, рекламировавшую приложения для генерации искусственного интеллекта (ИИ) на своих социальных платформах, позволяющие пользователям создавать откровенные изображения людей без их согласия. Иск последовал за расследованием CBS News, опубликованным на прошлой неделе, в ходе которого было обнаружено сотни рекламных объявлений для приложений, осуществляющих цифровую "обнаженку", на платформах Facebook, Messenger, Instagram и Threads от Meta.

“Этот судебный иск подчеркивает серьезность, с которой мы относимся к подобным злоупотреблениям, и нашу приверженность к защите нашего сообщества от них,” – заявила Meta. “Мы будем продолжать принимать необходимые меры – включая судебные иски – против тех, кто злоупотребляет наши платформы таким образом.”

В иске Meta конкретно указано, что компания Joy Timeline, базирующаяся в Гонконге, должна прекратить размещение рекламы приложений CrushAI, осуществляющих цифровую "обнаженку", на социальных платформах Meta, поскольку компания предприняла “многочисленные попытки обойти процесс проверки рекламы Meta”.

Данный судебный иск последовал за расследованием CBS News, в ходе которого было обнаружено сотни рекламных объявлений для приложений, осуществляющих цифровую "обнаженку", на платформах Meta. Meta сообщила CBS, что с тех пор удалила ряд этих рекламных объявлений, удалила аккаунты, их размещавшие, и заблокировала URL-адреса, связанные с приложениями для создания дипфейков, но отметила, что обеспечение соблюдения своих правил становится все сложнее, поскольку эксплуататорские приложения для генерации ИИ находят новые способы обхода обнаружения.

Отчет CBS News показал, что реклама инструментов для создания дипфейков с откровенным содержанием все еще появлялась в Instagram после того, как Meta удалила рекламу приложений, отмеченных в ходе расследования. Многие из рекламных объявлений, обнаруженных CBS, были нацелены на мужчин в возрасте от 18 до 65 лет, проживающих в США, Великобритании и Европейском Союзе.

Помимо нарушения правил безопасности и модерации платформ Meta, приложения, которые цифровым образом “обнажают” людей без их согласия – в основном рекламируемые для использования против женщин и знаменитостей – способствуют росту шантажа и схем “сексторсии” и часто попадают в руки детей.

В апреле 2024 года 404 Media опубликовала аналогичное расследование после обнаружения инструментов для создания дипфейков без согласия, рекламируемых в Instagram, после чего Apple и Google удалили приложения, отмеченные в отчете, из своих магазинов приложений. В августе 2024 года Сан-Франциско подала собственный иск против 16 наиболее часто посещаемых веб-сайтов, использующих ИИ для создания дипфейков, осуществляющих цифровую "обнаженку".