Pinterest теперь будет сообщать, когда вы смотрите контент, сгенерированный искусственным интеллектом.

Pinterest противостоит нарастающему потоку некачественного контента, созданного искусственным интеллектом, который все чаще засоряет платформу в ответ на жалобы пользователей. Теперь пользователи смогут видеть, были ли изображения, отображаемые в их ленте, сгенерированы или модифицированы с использованием ИИ. При нажатии на изображение в увеличенном виде в левом нижнем углу появится метка «AI modified» (модифицировано ИИ).

В публикации в блоге, опубликованной на этой неделе, Pinterest сообщает, что компания в течение нескольких месяцев тестировала новую функцию, которая включает в себя анализ метаданных изображения для оценки его источника. Также разрабатываются классификаторы, которые смогут автоматически определять признаки контента, сгенерированного ИИ, даже при отсутствии маркеров в метаданных. Эффективность этой работы станет ясна по мере глобального развертывания новых функций, а авторы, подозревающие, что их контент был ошибочно помечен, смогут подать апелляцию.

Проблема ошибочной маркировки уже возникала у Meta, которой пришлось изменить формулировку меток ИИ, применяемых к загруженным фотографиям на Facebook и Instagram, после того как фотографы пожаловались на добавление меток к изображениям, которые не были созданы с использованием ИИ. Оказалось, что даже минимальное использование инструмента генеративного заполнения в Photoshop было достаточно для добавления метки. Это то, на что Pinterest, вероятно, обратит внимание при доработке нового алгоритма.

В дополнение к новым меткам Pinterest экспериментирует с функцией, которая позволит пользователям фильтровать категории, где особенно распространена модификация или генерация контента с помощью ИИ, такие как красота и искусство. Предоставляя своим пользователям больше контроля над тем, что отображается в их ленте, Pinterest явно надеется вернуть растущее число недовольных членов сообщества.