Гугл начнёт помечать в поисковике картинки, которые были сгенерированы с помощью ИИ - SynthID
“Мы помогаем разрабатывать новейшие технологии, которые помогут людям лучше понять, как конкретный фрагмент контента создавался и изменялся с течением времени”.
“Информация такого рода помогает нашим пользователям принимать более обоснованные решения относительно контента, с которым они взаимодействуют”.
SynthID работает в двух направлениях:
- Он встраивает цифровые водяные знаки непосредственно в изображения, аудио, текст или видео, созданные при помощи ИИ-инструментов Гугл (Gemma 2, Gemini и др.)
- Поисковик идентифицирует контент с цифровыми водяными знаками как созданный ИИ при выдаче ответов на запрос пользователя.
Технология незаметна для пользователей, но считывается компьютерами.
SynthID в настоящее время запущен в бета-версии и продолжает развиваться, помогая людям и организациям. Сейчас эта технология доступна клиентам Vertex AI от Гугл.
Важно отметить, что только изображения, содержащие «метаданные C2PA» (Coalition for Content Provenance and Authenticity), будут помечены при поиске, как созданные ИИ. C2PA поддерживают Google, Amazon, Microsoft, OpenAI и Adobe.
Более того, метаданные C2PA, как и любые метаданные, могут быть удалены, очищены или повреждены до такой степени, что их невозможно прочитать.
А вот, например, Flux, который чат-бот Grok от xAI использует для генерации изображений, не имеет метаданных C2PA. Поэтому SynthID на него не сработает.
Хотя технология и неидеальна (распространяется не на весь генеративный контент, а только тех компаний, которые приняли C2PA), но это точно лучше, чем ничего. А возможно, SynthID задаст новый тренд, но это нам только предстоит узнать.
Подписывайтесь, чтобы оставаться в курсе новостей в сфере ИИ