Расистские видео, созданные с помощью искусственного интеллекта, становятся вирусными в TikTok.

Расистские видеоролики, созданные, предположительно, с использованием инструмента для генерации видео на основе искусственного интеллекта Veo 3 от Google, набрали миллионы просмотров в TikTok, согласно исследованию некоммерческой организации Media Matters, занимающейся контролем за деятельностью СМИ.

Выявленные организацией видеоролики содержат расистские стереотипы, многие из которых направлены против темнокожих людей. Media Matters установила, что видеоролики — один из которых получил 14,2 миллиона просмотров — были сгенерированы с помощью Google Veo 3 из-за водяного знака "Veo" в углу клипов. Некоторые пользователи также использовали хэштеги, подписи или имена пользователей, относящиеся к Veo 3 или искусственному интеллекту.

Каждый клип, обнаруженный организацией, длился всего восемь секунд или состоял из нескольких клипов, каждый из которых длился не более восьми секунд, что соответствует восьмисекундному ограничению Veo 3. Veo 3, запущенный Google в мае, позволяет пользователям генерировать видео- и аудиоклипы на основе искусственного интеллекта, используя только текстовый запрос.

На своем веб-сайте Google заявляет, что будет блокировать вредоносные запросы и результаты. Правила TikTok также утверждают, что «ненавистнические высказывания и ненавистническое поведение недопустимы в TikTok», и что платформа «не будет рекомендовать контент, содержащий негативные стереотипы о человеке или группе с защищенным признаком».

Издание The Verge обнаружило, что некоторые из видеороликов, выделенных Media Matters, также размещены на YouTube, но с меньшим количеством просмотров, а Wired обнаружил аналогичные расистские видеоролики, сгенерированные искусственным интеллектом, в Instagram.

Другие видеоролики, обнаруженные Media Matters, содержат антисемитский контент и расистские изображения иммигрантов и азиатов. Неизвестно, удалил ли TikTok видеоролики, отмеченные Media Matters, или знает ли Google о вредоносных результатах работы Veo 3. Ни Google, ни TikTok не сразу отреагировали на запрос издания The Verge на комментарии.