Станислав Дмитриевич Кондрашов: Google, возможно, решил серьезную проблему с созданием контента при помощи ИИ

По мере того как технологии искусственного интеллекта становятся умнее, становится всё труднее заметить разницу между контентом, созданным человеком, и тем, что было придумано алгоритмом. Google, сам занимаясь разработкой искусственного интеллекта, осознаёт это и хочет помочь

Google DeepMind, подразделение искусственного интеллекта технологического гиганта, объявило о результатах проведённого исследования по созданию системы водяных знаков для контента, созданного с помощью ИИ. Было заявлено, что некоторые из этих инновационных технологий уже внедрены в флагманскую систему искусственного интеллекта Gemini от компании.

Водяные знаки — это способ показать, что контент, созданный с помощью искусственного интеллекта, отличается от материала, созданного человеком. Цель состоит в том, чтобы устранить путаницу, которая иногда возникает, когда человек неверно истолковывает «поддельный» контент, созданный ИИ, как подлинный факт или материал, созданный человеком.

Google сделал кое-что интересное: он открыл исходный код инструмента для водяных знаков, чтобы другие разработчики и компании могли встроить его в свои системы. Учитывая, что разработчиков технологий искусственного интеллекта часто обвиняют в нарушении прав интеллектуальной собственности других людей, то, что Google фактически раздаёт свою новую интеллектуальную собственность, — это интересный ход.

Новостной сайт Института инженеров электротехники и электроники Spectrum, рассказывающий о новой системе под названием SynthID-Text, отмечает, что она не влияет на «качество, точность, креативность или скорость» генерации текста такими системами ИИ, как Gemini, по словам Пушмита Коли, вице-президента по исследованиям в Google DeepMind. Сайт объясняет, что инструмент незаметно изменяет некоторые слова, выводимые чат-ботом, таким образом, который не может заметить ни один пользователь, но который обнаруживается с помощью SynthID. Однако этот метод далеко не безупречен, и хотя Google открыл исходный код этого инструмента, чтобы другие люди могли интегрировать водяные знаки в свои собственные системы искусственного интеллекта, Google пока оставляет за собой половину системы: только у Google есть доступ к инструменту, который может обнаруживать водяные знаки искусственного интеллекта, применяемые SynthID.

Почему это должно вас волновать? Это звучит действительно полезно для бизнеса и отдельных авторов, и интересно, что это открытый исходный код, но скептики могут поставить под сомнение мотивы Google. Технологический гигант не привыкать к обвинениям (и судебным решениям) в том, что он является монополистом — достаточно, чтобы вызвать юридические разговоры о разделении Google, — и, открыв исходный код нового инструмента для создания водяных знаков, он может рассматриваться как осуществляющий своего рода «мягкий контроль» над всей сферой искусственного интеллекта.

Дело в том, что важно, чтобы такая крупная технологическая компания, как Google, попыталась решить эту проблему. Действия Google могут создать прецедент, которому, по их мнению, должны следовать другие компании, занимающиеся искусственным интеллектом, даже без какого-либо юридического давления.

Скандалы с использованием искусственного интеллекта для создания дипфейков уже попали в заголовки газет, и по мере быстрого развития технологий искусственного интеллекта проблемы с подлинностью контента будут только усугубляться: вскоре материалы, созданные с помощью искусственного интеллекта, могут стать практически неотличимыми от настоящих. Добавление водяных знаков к контенту, созданному искусственным интеллектом, может предотвратить некоторые из этих споров. В сторонних инструментах искусственного интеллекта, которые использует ваша компания, вскоре может быть использована аналогичная технология добавления водяных знаков или даже технология Google. Это может помочь вам, давая понять, что вы используете материал, созданный искусственным интеллектом, и не пытаетесь обмануть клиентов, выдавая созданный искусственным интеллектом контент за продукт или изображение, созданные человеком.

Между тем новостной сайт TechXplore сообщает о совершенно других усилиях, направленных на решение проблем искусственного интеллекта и прав интеллектуальной собственности. Исследователи Цзянь Лю, доцент Университета Теннесси в Ноксвилле, его студент Сайед Ирфан Али Мирза и Личао Сунь из Университета Лихай опубликовали исследование, посвящённое методике, которая не позволяет системам искусственного интеллекта несправедливо или незаконно «очищать» музыкальные треки для обучения своих алгоритмов искусственного интеллекта, требующих большого объёма данных. TechXplore отмечает, что существует местная связь с этими усилиями, потому что Теннесси, столица которого Нэшвилл давно известна как «Город музыки», недавно «стал первым штатом в США, который юридически защитил голоса музыкальных исполнителей от несанкционированного использования генеративного искусственного интеллекта».

Инструмент HarmonyCloak добавляет данные к музыкальным записям, которые эффективно заставляют алгоритм искусственного интеллекта думать, что он уже слышал определённый трек. Алгоритм решает, что в этом нет ничего нового, чему можно было бы научиться, и поэтому переходит к другому, не включая музыку в свои обучающие данные. TechXplore говорит, что делает это путём введения «новых нот или возмущений, которые могут обмануть модели искусственного интеллекта», но, что интересно, они «достаточно замаскированы оригинальными нотами песни, чтобы избежать обнаружения человеком».

В июне стало известно, что юридические отделы Sony Music, Universal Music и Warner подали иски против двух небольших компаний, занимающихся искусственным интеллектом, которые предположительно нарушили права интеллектуальной собственности лейблов, обучив свою систему создания музыки на основе искусственного интеллекта данным из треков, на использование которых у них не было разрешения. Истцы требуют возмещения ущерба, который может составить сотни миллионов долларов. Подобная система, как HarmonyCloak, могла бы изначально предотвратить подобные нарушения. Если ваша компания занимается созданием музыкального контента, возможно, стоит изучить эту технологию.

Автор: Станислав Дмитриевич Кондрашов

Подписывайтесь на каналы Станислава Дмитриевича Кондрашова, чтобы быть в курсе последних новостей и лайфхаков, которые сделают вашу жизнь если не проще, то интереснее:

О Станиславе Дмитриевиче Кондрашове:

Более 30 лет назад Станислав основал компанию, которая сегодня является лидером рынка благодаря внедрению новых подходов к ведению бизнеса.

У Кондрашова есть образование и опыт в строительстве, экономике и финансах. Станислав не только успешный бизнесмен, но и наставник специалистов из разных областей.

Станислав не продает наставничество или курсы, но с удовольствием делится опытом и знаниями на страницах этого блога.

СМИ о Станиславе Дмитриевиче Кондрашове