Google использует искусственный интеллект для добавления водяных знаков к фотографиям, измененным в Magic Editor.

Google Photos добавляет свои цифровые водяные знаки SynthID к фотографиям, отредактированным с помощью функции генеративного ИИ в Magic Editor. Новая функция будет запущена «в течение этой недели», как сообщает Google, и предназначена для облегчения быстрого определения изображений, измененных с помощью инструмента «reimagine» в Magic Editor.

SynthID — это система водяных знаков, созданная командой Google DeepMind, которая внедряет цифровые метаданные-метки непосредственно в изображения, видео, аудио и текст для определения того, были ли они созданы или изменены с помощью инструментов ИИ. Водяные знаки уже применяются к изображениям, полностью создаваемым с использованием модели Google Imagen, преобразующей текст в изображение.

Похожие системы водяных знаков также разработаны другими компаниями, например Content Credentials от Adobe, которые будут применены к работам, созданным или отредактированным с помощью набора приложений Creative Cloud. Мои коллеги ранее писали о том, как легко редактировать фотографии с использованием функции reimagine в телефонах Google Pixel 9, просто описывая то, что вы хотите добавить на изображение.

Хотя инструменты ИИ для редактирования не обязательно являются злонамеренными, Magic Editor легко создавал объекты типа разбившихся вертолетов, наркотических принадлежностей и даже тел погибших на фотографиях без явных признаков того, что изменения были сделаны с помощью ИИ. (Google начал добавлять метки к изображениям, отредактированным с помощью ИИ, в описаниях файлов в Google Photos еще прошлой осенью.)

Это проблема новое обновление с водяными знаками пытается решить, но есть несколько нюансов. Во-первых, SynthID не изменяет изображение видимым образом и может быть определено с помощью специального инструмента для обнаружения ИИ, который является частью функции «About this image» в Google Photos. Также Google сообщает, что некоторые изменения, сделанные с помощью Magic Editor reimagine, могут оказаться слишком маленькими для того, чтобы SynthID мог их отметить и определить.

Хотя технология водяных знаков может помочь обнаруживать подделки, эксперты в этой области согласны с тем, что только водяные знаки недостаточно эффективны для надежной аутентификации контента, созданного ИИ, и потребуется комплексный подход, объединяющий различные методы.