Google представил технологию SynthID для добавления невидимых водяных знаков к медиафайлам, созданным искусственным интеллектом. Это должно помочь пользователям отличать реальный контент от сгенерированного.
По оценкам Starling Lab, человечество создало 1,5 миллиарда изображений к 1975 году. ИИ достиг того же показателя за 18 месяцев. Google сообщает, что его инструменты использовались для создания более 100 миллиардов изображений и видео, сгенерированных ИИ, за несколько лет.
SynthID встраивает водяной знак в пиксели изображения или видео, а также в форму волны аудиофайла. Это делает его устойчивым к сжатию, изменению размера и кадрированию. Тесты показали, что SynthID сохраняется даже после многократных циклов сжатия и редактирования.
Технология не является полностью неуязвимой. Сильное кадрирование (например, на 20% или 50%) может удалить водяной знак, особенно после многочисленных циклов сжатия. Google признает, что SynthID не предназначен для противостояния целенаправленным атакам.
Помимо SynthID, Google использует схемы метаданных, такие как Coalition for Content Provenance and Authenticity (C2PA). Метаданные C2PA криптографически защищены, но их легко удалить, сохранив изображение или сделав скриншот. Водяные знаки SynthID встроены в сам медиафайл.
Внедрение SynthID компаниями Google, OpenAI, Runway и Nvidia показывает растущее внимание к идентификации ИИ-контента. Борьба с дезинформацией, созданной ИИ, остается сложной задачей из-за потенциальных уязвимостей и развития технологий обхода защиты.