Надзорный совет заявил, что Meta недостаточно делает для борьбы с дипфейковыми мошенничествами с участием знаменитостей.

Мошенничество с использованием AI-дипфейков знаменитостей становится все более серьезной проблемой для Meta на протяжении последних нескольких лет. Теперь в ситуацию вмешался Надзорный совет, и его выводы подтверждают опасения критиков: Meta недостаточно эффективно применяет собственные правила и позволяет мошенникам легко уходить от ответственности. "Meta, вероятно, допускает значительное количество мошеннического контента на своих платформах, чтобы избежать чрезмерного применения правил к небольшому числу подлинных рекламных акций с участием знаменитостей", – говорится в последнем решении совета. "Модераторы не имеют полномочий для применения запрета на контент, который создает фальшивый образ или выдает себя за известного человека с целью обмана или мошенничества".

Этот вывод был сделан в результате рассмотрения случая с рекламой онлайн-игры в стиле казино под названием Plinko, в которой использовалось AI-манипулированное видео Роналду Назарио, бывшего бразильского футболиста. Реклама, которая, по мнению совета, содержала очевидные признаки подделки, не была удалена Meta даже после того, как на нее более 50 раз пожаловали как на мошенничество. Meta позже удалила рекламу, но не сам пост в Facebook, пока Надзорный совет не согласился рассмотреть этот случай. Его просмотрели более 600 000 раз.

Совет утверждает, что этот случай выявляет фундаментальные недостатки в подходе Meta к модерации контента, связанного с мошенническими схемами с участием знаменитостей и публичных деятелей. Meta сообщила членам совета, что "политика применяется только после эскалации, чтобы убедиться, что изображенный в контенте человек действительно не одобряет продукт", и что "интерпретация того, что составляет ‘фальшивый образ’, может различаться в разных регионах и приводить к непоследовательности в применении правил". В результате, по мнению Надзорного совета, значительное количество мошеннического контента, вероятно, проскальзывает сквозь пальцы.

В своем единственном предложении Meta совет призвал компанию обновить свои внутренние рукововодства, предоставить модераторам контента полномочия для выявления таких мошеннических схем и обучить их "индикаторам" AI-манипулированного контента.

В своем заявлении представитель Meta сказал, что "многие утверждения совета просто неточны" и указал на тестирование, начатое компанией в прошлом году, которое использует технологию распознавания лиц для борьбы с мошенническими схемами, использующими "приманку знаменитостей".

"Мошеннические схемы увеличились в масштабе и сложности в последние годы, подпитываемые безжалостными трансграничными преступными сетями", – заявил представитель. "По мере того как эта деятельность становится все более настойчивой и изощренной, наши усилия по борьбе с ней также усиливаются. Мы тестируем использование технологии распознавания лиц, агрессивно боремся с мошенническими схемами и предоставляем пользователям множество инструментов и предупреждений для защиты на платформе. Хотя мы ценим мнение Надзорного совета в этом случае, многие утверждения совета просто неточны, и мы предоставим полный ответ на предложение в течение 60 дней в соответствии с уставом".

Мошенничество с использованием AI-дипфейков знаменитостей становится все более серьезной проблемой для Meta на протяжении последних нескольких лет. Теперь в ситуацию вмешался Надзорный совет, и его выводы подтверждают опасения критиков: Meta недостаточно эффективно применяет собственные правила и позволяет мошенникам легко уходить от ответственности. "Meta, вероятно, допускает значительное количество мошеннического контента на своих платформах, чтобы избежать чрезмерного применения правил к небольшому числу подлинных рекламных акций с участием знаменитостей", – говорится в последнем решении совета. "Модераторы не имеют полномочий для применения запрета на контент, который создает фальшивый образ или выдает себя за известного человека с целью обмана или мошенничества".

Этот вывод был сделан в результате рассмотрения случая с рекламой онлайн-игры в стиле казино под названием Plinko, в которой использовалось AI-манипулированное видео Роналду Назарио, бывшего бразильского футболиста. Реклама, которая, по мнению совета, содержала очевидные признаки подделки, не была удалена Meta даже после того, как на нее более 50 раз пожаловали как на мошенничество. Meta позже удалила рекламу, но не сам пост в Facebook, пока Надзорный совет не согласился рассмотреть этот случай. Его просмотрели более 600 000 раз.

Совет утверждает, что этот случай выявляет фундаментальные недостатки в подходе Meta к модерации контента, связанного с мошенническими схемами с участием знаменитостей и публичных деятелей. Meta сообщила членам совета, что "политика применяется только после эскалации, чтобы убедиться, что изображенный в контенте человек действительно не одобряет продукт", и что "интерпретация того, что составляет ‘фальшивый образ’, может различаться в разных регионах и приводить к непоследовательности в применении правил". В результате, по мнению Надзорного совета, значительное количество мошеннического контента, вероятно, проскальзывает сквозь пальцы.

В своем единственном предложении Meta совет призвал компанию обновить свои внутренние руководства, предоставить модераторам контента полномочия для выявления таких мошеннических схем и обучить их "индикаторам" AI-манипулированного контента.

В своем заявлении представитель Meta сказал, что "многие утверждения совета просто неточны" и указал на тестирование, начатое компанией в прошлом году, которое использует технологию распознавания лиц для борьбы с мошенническими схемами, использующими "приманку знаменитостей".

"Мошеннические схемы увеличились в масштабе и сложности в последние годы, подпитываемые безжалостными трансграничными преступными сетями", – заявил представитель. "По мере того как эта деятельность становится все более настойчивой и изощренной, наши усилия по борьбе с ней также усиливаются. Мы тестируем использование технологии распознавания лиц, агрессивно боремся с мошенническими схемами и предоставляем пользователям множество инструментов и предупреждений для защиты на платформе. Хотя мы ценим мнение Надзорного совета в этом случае, многие утверждения совета просто неточны, и мы предоставим полный ответ на предложение в течение 60 дней в соответствии с уставом".

Надзорный совет – не единственная группа, которая выразила обеспокоенность по поводу мошенничества на платформах Meta. The Wall Street Journal недавно сообщил, что Meta "учитывала почти половину всех сообщений о мошенничестве на Zelle для JPMorgan Chase в период с лета 2023 года по лето 2024 года" и что "британские и австралийские регулирующие органы обнаружили аналогичный уровень мошенничества, исходящего с платформ Meta". В статье также отмечается, что Meta "не решается усложнять процесс покупки рекламы" и что компания "воздерживается" от блокировки рекламодателей, даже тех, кто имеет историю мошеннической деятельности.

` для каждого абзаца текста. Это обеспечит правильное форматирование и читаемость.