Как индустрия искусственного интеллекта борется с фейками

В отчете “Global Risks Report 2024” ИИ-фейки стоят на втором месте, а в ближайшие два года, по мнению экспертов, эта проблема и вовсе выйдет на первое место. Это отражает растущую обеспокоенность всех, начиная с создателей ИИ продуктов и заканчивая политиками. К счастью, над решением проблемы работают с разных сторон, читайте, как именно.

Nikon, Sony и Canon борются с фейками ИИ с помощью новой технологии. Они внедряют цифровые подписи, которые помогут отличить настоящие фотографии от подделок.

Альянс новостных, технологических компаний и производителей фотоаппаратов уже запустил веб-инструмент Verify для бесплатной проверки изображений. Если изображение имеет цифровую подпись, на сайте отображается дата, местоположение и другие учетные данные. Если изображение было создано с помощью ИИ или было изменено, инструмент проверки пометит его как «Нет учетных данных контента».

Кроме того, Canon выпускает приложение для управления изображениями, позволяющее узнать, сделаны ли изображения людьми.

Также производители внедряют цифровые подписи, которые соответствуют глобальному стандарту, используемому Nikon, Sony и Canon. Sony разработала встроенную в камеру цифровую подпись совместно с Associated Press и начнет производить такие камеры весной 2024 года. Еще Sony внедрит C2PA аутентификацию (см. информацию о ней ниже). Canon также обещает внедрить цифровую подпись в этом году.

Технология аутентификации Sony обеспечивает цифровую подпись, исключая возможность незамеченных манипуляций на начальном этапе. Она создается внутри камеры в момент снимка и предназначена для профессионалов, желающих защитить подлинность своего контента.

Японские компании контролируют около 90% мирового рынка цифровых фотоаппаратов.

В августе 2023 г. Google выпустила инструмент, который встраивает невидимые цифровые водяные знаки в изображения, созданные искусственным интеллектом. В 2022 году Intel разработала технологию, позволяющую определять подлинность изображения путем анализа цвета кожи, указывающих на кровоток под кожей субъектов. Hitachi разрабатывает технологию защиты от подделок для онлайн аутентификации личности.

Также в OpenAI идут эксперименты с классификатором происхождения — новым инструментом для обнаружения изображений, созданных DALL·E. Внутреннее тестирование показало многообещающие первые результаты, даже если изображения подвергались модификации. Планируют вскоре предоставить его первой группе тестировщиков, включая журналистов, медиа и расследователей для получения обратной связи.

В начале февраля 2024 года OpenAI начала маркировать изображения, созданные ChatGPT и DALL·E 3. В изображениях будут закодированы сведения о происхождении контента.

Недавно прошла новость, что Федеральная торговая комиссия (FTC) США запустила свой первый в истории конкурс и выплатит $35 тыс. на борьбу с клонированием голоса. Аналитики из Deloitte на CES 2024 рассказали, что мошенники в этом году смогут заработать до полутриллиона долларов на клонировании голосов при помощи ИИ.

#ии #иибудущее #chatgpt #chatgpt4 #ai #интернет #нейросети #будущее #будущее_уже_здесь #будущееии #безопасность #безопасностьвинтернете