У Google появился новый инструмент для выявления контента, созданного искусственным интеллектом.

Компания Google представила на конференции Google I/O новый инструмент SynthID Detector, позволяющий проверять, был ли контент создан с использованием инструментов искусственного интеллекта Google. В публикации в блоге Пушмит Кохли (Pushmeet Kohli) из Google DeepMind описывает SynthID Detector как "портал верификации", который может "быстро и эффективно идентифицировать контент, сгенерированный с помощью Google AI". Он также способен "выделять части контента, которые с большей вероятностью помечены водяными знаками SynthID".

Водяные знаки SynthID применяются к изображениям, тексту, аудио и видео, сгенерированным искусственным интеллектом, включая контент, созданный моделями Gemini, Imagen, Lyria и Veo, сообщает Кохли.

Принцип работы инструмента, по словам Кохли, заключается в следующем: при загрузке изображения, аудиодорожки, видео или текстового фрагмента, созданного с помощью инструментов искусственного интеллекта Google, портал сканирует медиафайл на наличие водяного знака SynthID. При обнаружении водяного знака портал выделяет конкретные части контента, которые с наибольшей вероятностью им помечены. Для аудио портал определяет конкретные сегменты, где обнаружен водяной знак SynthID, а для изображений – области, где водяной знак наиболее вероятен.

Компания Google начала развертывание инструмента среди "первых пользователей", сообщает Кохли. "После завершения начальной фазы тестирования портал будет постепенно развертываться среди пользователей, зарегистрировавшихся в листе ожидания для получения доступа к SynthID Detector", – рассказывает Кохли изданию The Verge. "Мы учтем полученные данные от этой группы профессионалов и будем работать над более широким внедрением прозрачности контента".