Надзорный совет критикует непоследовательную модерацию контента Meta как «нелогичную и необоснованную»

По мере того, как платформы Meta заполняются контентом, созданным с помощью искусственного интеллекта, компании предстоит еще многое сделать для обеспечения соблюдения своих правил в отношении манипулируемых медиа.

Совет по надзору вновь критикует компанию социальных сетей за ее подход к таким публикациям, отмечая в своем последнем решении, что неспособность последовательно применять свои правила является "непоследовательной и необоснованной".

Если это звучит знакомо, то это неудивительно, поскольку Совет по надзору во второй раз за последний год использует слово "непоследовательный" для описания подхода Meta к манипулируемым медиа.

Ранее Совет призывал Meta обновить свои правила после того, как вирусное распространение в Facebook получил вводящий в заблуждение отредактированный видеоролик с участием Джо Байдена (Джо Байден).

В ответ Meta заявила, что расширит использование меток для идентификации контента, созданного с помощью ИИ, и будет применять более заметные метки в "высокорисковых" ситуациях.

Эти метки, как показано ниже, указывают, когда публикация была создана или отредактирована с использованием ИИ.

Однако этот подход все еще недостаточен, считает Совет.

"Совет обеспокоен тем, что, несмотря на растущую распространенность манипулируемого контента в различных форматах, обеспечение соблюдения политики Meta в отношении манипулируемых медиа является непоследовательным", – говорится в последнем решении Совета.

"Неспособность Meta автоматически применять метку ко всем экземплярам одних и тех же манипулируемых медиа является непоследовательной и необоснованной".

Это заявление было сделано в связи с решением по публикации, в которой якобы содержалась аудиозапись двух политиков из Иракского Курдистана.

В предполагаемом "записанном разговоре" обсуждались манипуляции с предстоящими выборами и другие "зловещие планы" в отношении региона.

На публикацию было подано сообщение в Meta как на дезинформацию, но компания закрыла дело "без участия человека", сообщает Совет.

Позднее Meta пометила некоторые экземпляры аудиоклипа, но не тот, который был первоначально заявлен.

По мнению Совета, данный случай не является единичным.

Meta сообщила Совету, что не может автоматически идентифицировать и применять метки к аудио- и видеопубликациям, только к "статическим изображениям".

Это означает, что различные экземпляры одного и того же аудио- или видеоклипа могут быть обработаны по-разному, что, по мнению Совета, может вызвать еще большую путаницу.

Совет по надзору также критикует Meta за то, что компания часто полагается на третьих лиц для выявления видео- и аудиоконтента, подвергшегося манипуляциям с помощью ИИ, как это произошло в данном случае.

"Учитывая, что Meta является одной из ведущих технологических и ИИ-компаний в мире, с ее ресурсами и широким использованием платформ Meta, Совет вновь заявляет, что Meta должна уделять приоритетное внимание инвестированию в технологии для выявления и маркировки манипулируемого видео- и аудиоконтента в масштабе", – пишет Совет.

"Совету неясно, почему компания с таким техническим опытом и ресурсами передает на аутсорсинг выявление вероятного манипулируемого контента в ситуациях высокого риска средствам массовой информации или доверенным партнерам".

В своих рекомендациях Meta Совет предлагает компании принять "четкий процесс" для последовательной маркировки "идентичного или аналогичного контента" в ситуациях, когда к публикации добавляется метка "высокий риск".

Совет также рекомендует, чтобы эти метки отображались на языке, соответствующем остальным настройкам пользователя на Facebook, Instagram и Threads.

Meta не ответила на запрос о комментарии.

Компания имеет 60 дней на ответ на рекомендации Совета.