Google начинает ‘клеймить’ фото, отредактированные ИИ

Google объявила о внедрении цифровых водяных знаков для фотографий, обработанных с помощью генеративного искусственного интеллекта в приложении Photos. Нововведение, вступающее в силу на этой неделе, коснется изображений, отредактированных с помощью функции Reimagine в Magic Editor на устройствах Pixel 9.

Функция Reimagine, представленная в 2024 году, использует генеративный ИИ для существенного изменения цифровых фотографий. В отличие от стандартных инструментов редактирования, она позволяет выполнять радикальные изменения изображений, что размывает границу между реальными фотографиями и изображениями, созданными искусственным интеллектом.

Для маркировки изображений Google будет использовать технологию SynthID, разработанную подразделением DeepMind. Эта система встраивает цифровой водяной знак непосредственно в контент, созданный или отредактированный с помощью ИИ, не ухудшая при этом качество оригинального изображения. SynthID, находящаяся сейчас в бета-версии, также может сканировать изображения на наличие потенциальных водяных знаков и работает с текстовыми файлами и видео.

Пользователи смогут проверить наличие цифровых водяных знаков через функцию “About this Image” в метаданных фотографии. Однако компания отмечает, что не все правки будут отмечены: “В некоторых случаях изменения, сделанные с помощью Reimagine, могут быть слишком незначительными для маркировки SynthID — например, если вы меняете цвет маленького цветка на заднем плане изображения”.

Внедрение этой функции является частью более масштабной инициативы Google по обеспечению прозрачности в использовании ИИ для редактирования фотографий. Решение принято в соответствии с опубликованными принципами компании в области искусственного интеллекта и отвечает растущей потребности общества в возможности отличать реальные фотографии от созданных или существенно измененных с помощью ИИ.