Инструмент модерации Reddit ошибочно классифицирует имя "Luigi" как потенциально violenta

Автоматический модерационный инструмент Reddit стал помечать слово «Luigi» как потенциально насильственное, даже если контент не содержит насилия.

Недавно модератор субреддита r/popculture обнаружил, что система AutoModerator пометила пост о видеоигре Luigi’s Mansion 3 из-за упоминания имени «Luigi», предложив проверить его на наличие насильственного контента.

Спикер Reddit попросил The Verge не указывать его имя в связи с чувствительностью темы и заявил, что нет общей фильтрации слова «Luigi» или ожиданий от пользователей прекратить упоминать Луиджи Маньоне — человека, которого обвиняют в убийстве CEO UnitedHealthcare Брайана Томпсона в декабре. Однако Reddit действительно флагирует комментарии с упоминанием «Luigi» в некоторых случаях, даже если они не связаны с Маньоне.

Спикер сообщил, что из-за того, что r/popculture недавно остался с единственным модератором, автоматические функции фильтрации активировались, включая отслеживание «слов, которые могут — но не обязательно — указывать на нарушение правил». Оставшийся модератор r/popculture подтвердил The Verge, что команда модераторов не добавляла слово «Luigi» в список ключевых слов для фильтрации — это сделал Reddit. Модератор субреддита обсудил проблему Luigi на форуме r/FreeLuigi, где люди обсуждают дело Луиджи Маньоне. Этот субредdit имеет строгие правила, чтобы избежать нарушения правил модерации Reddit, включая использование инициалов вместо полного имени Маньоне и запрет контента, призывающего к или одобряющего насильственные действия. Однако модераторы по-прежнему опасаются, что Reddit может закрыть их субреддит, даже если они соблюдают правила платформы.

Субреддит r/popculture с более чем 125 000 участниками решает закрыться из-за проблем, которые оставшийся модератор связывает с действиями Reddit. Модератор, сообщивший о проблеме с «Luigi», объявил вчера об окончательном закрытии всего сообщества, назвав администрацию Reddit «полными идиотами». В посте указывается, что другой член команды модераторов был приостановлен и что Reddit не помогает разрешить эту проблему. Спикер Reddit заявил, что модератор r/popculture был приостановлен за одобрение контента с прямыми призывами к насилию «включая изображения, посвященные [стрелку на митинге Трампа], и содержание, призывающее убить президента». Модератор r/popculture отверг это заявление, указав, что речь шла о фотографии стрелка, которая не посвящена ему.

Спикер отметил, что автоматические функции временные для r/popculture и модераторы могут все равно одобрять контент для публикации. Проблема с «Luigi» возникла в то же время, когда Reddit усилил борьбу с запрещенным контентом. Недавно компания объявила, что будет предупреждать пользователей за голосование за запрещенный на платформе контент. Политика применяется к пользователям, которые несколько раз в «определенное время» голосуют за такой контент, и компания начнет с применения правил для насильственного содержания. Спикер отметил, что пока никто не был приостановлен из-за этого нового правила.