Дипфейки: от голландских мастеров до Вована и Лексуса
Участники клуба Digital Principle обсудили юридические последствия распространения технологии синтеза голоса и изображений средствами нейросетей.
Впечатляющие возможности синтеза голоса и видео с помощью ИИ внушают серьезное беспокойство на фоне эпидемии «телефонного» мошенничества и информационных вбросов. Убедительность дипфейков, их доступность в изготовлении выделяют эти продукты среди других видов подделок и имитаций. Позволяют ли сегодняшние правовые институты обезопасить граждан от злоумышленников и в то же время не помешать технологическому прогрессу, разбирались участники десятого заседания Клуба цифровых юристов Digital Principle под эгидой Научно-образовательного центра интеллектуальной собственности и цифровой экономики Digital IP.
Любая новая технология сперва привлекает жуликов, согласился профессор-исследователь Digital IP, научный руководитель, ординарный профессор факультета права НИУ ВШЭ Антон Иванов:
«Кажется не вполне удачно само название, которое означает буквально “качественная подделка”. Вместе с тем я бы, например, не отказался, если бы за меня передачи вел мой двойник, только моложе и стройнее. Едва ли кто-то усмотрит в этом правонарушение!»
Технический эксперт Владимир Зайцев допустил, что слово deep в названии технологии может указывать не на мастеровитость подделки, а на тип нейросети, с помощью которой она изготовлена: deep neural network. В то же время, по его мнению, даже самые передовые «конкурирующие» нейросети не привносят в право ничего из того, что уже привнесли ретушь и фотошоп:
«Дипфейк — это инструмент. Единственное отличие — доступность и степень убедительности получаемого результата».
Коль скоро дипфейк — это имитация, он также мимикрирует под уже существующие в праве категории: фальшивки, подделки или вполне легальной пародии, считает профессор кафедры интеллектуального права Исследовательского центра частного права имени С.С. Алексеева при Президенте Российской Федерации Виталий Калятин:
«Картины-обманки известны с давних времен, однако, приходя в музей, зритель понимает, что имеет дело с аттракционом. Здесь же имитация неочевидна: подделка или игра? Обычный потребитель не может распознать. Зато он может сам обманывать других, используя почти бесплатные инструменты для создания дипфейков».
Юрист посетовал на то, что существующие институты гражданского права слишком слабы для такого мощного инструмента влияния на общество. Да, можно потребовать удалить свое изображение, но какой в этом смысл, если оно уже разошлось по тысячам страниц. Можно потребовать возместить моральный ущерб, но доказать свои страдания будет очень непросто.
Впрочем, напомнил Виталий Калятин, используется синтез изображений и в благих целях: например, с помощью этого инструмента удалось «завершить» «Ночной дозор» Рембрандта. Известны случаи, когда с помощью ИИ «оживляли» артистов для участия в фильме.
«В кино мы по сути имеем дело с симбиозом автора, придумавшего характер, актера, чей образ используется, его дублера и, собственно, ИИ, синтезирующего дипфейк. Право на образ вполне может стать новым смежным правом — вполне оборачиваемым. Однако пока что ни принадлежность прав, ни возможные ограничения не урегулированы»
С ним согласился советник юридической фирмы Lidings Дмитрий Кириллов:
«Право на изображение вполне может охраняться и четвертой частью ГК. РФ. В конце концов, артист может сказать, что на протяжении своей биографии создавал определенный, не скажу сценический, но образ, использовал определенный антураж, транслировал определенное послание. Все это можно обособить и описать, с тем чтобы это охранялось некоторым вариантом смежного права».
Одним из решений проблемы дипфейков могла бы стать обязательная маркировка подобной продукции, отметила директор по правовым инициативам Фонда развития интернет-инициатив (ФРИИ) Александра Орехович:
«Было бы нелишне учесть позитивный опыт Китая, где подобный контент маркируется, причем данная обязанность возложена на поставщика информационных услуг — разработчика соответствующих инструментов. Он же подвергнется штрафу, если выпустит немаркированный продукт».
Отсутствие маркировки позволило бы привлекать разработчиков дипфейков и к уголовной ответственности, добавил партнер адвокатского бюро «Феоктистов и партнеры» Руслан Долотов:
«Как ни странно, именно правоохранительная система крайне пристально следит за развитием ситуации с дипфейками. В статистических карточках учета преступлений в обязательном порядке фиксируется, что они совершены с использованием дипфейка. Локомотив здесь — все, что связано с порноиндустрией. И конечно, наиболее чутко правоохранители реагируют на случаи, когда синтезирован образ несовершеннолетнего».
Бывает и так, что порно с дипфейком используется для дискредитации. В этом случае преступник может ответить по делу о клевете (а не по делу о нарушении прайвеси , как было бы в случае обычной «порномести»). Разумеется, помимо порнографии человек может быть изображен и в любых иных «позорящих» обстоятельствах. Диапазон составов преступления — от оскорбления представителя власти до разжигания ненависти и вражды, от вымогательства до нарушения авторского права (как-никак в основе дипфейка — видео, имеющее автора).
Руслан Долотов полагает, что вводить новые статьи в УК до тех пор, пока не развито бланкетное законодательство, нецелесообразно. Санкции лишь орудие. Это касается и поправок в УК РФ, внесенных на днях в Госдуму. Долотов и другие участники встречи сошлись на том, что этот пакет, как и изменения в ГК, касающиеся синтеза голоса, едва ли будет принят. Свидетельством тому среди прочего субъект законодательной инициативы — группа депутатов, а не президент, правительство или Верховный суд.
Участники беседы также затронули тему случайных совпадений в творчестве ИИ. Известны случаи, когда люди узнавали себя на портретах, созданных нейросетями. Да что там, Бальзаку предъявляли претензии люди, которых он никогда не знал, уверенные, что он вывел их в своем романе. В какой мере дипфейк должен быть похож на меня, чтобы я мог привлечь авторов к ответственности?
«Похож до степени смешения… со мной»,
В заключение встречи эксперты обсудили, в какой мере человек может быть сам виноват в том, что стал жертвой мошенников, вооруженных дипфейком. Руслан Долотов напомнил, что в уголовном праве степень иррациональной виктимности жертвы не играет никакой роли: преступник все равно понесет наказание. В случае же гражданской ответственности, например при определении размера компенсации со стороны банка, суд учтет, выполнила ли кредитная организация требования, предусмотренные недавними поправками в законодательство о национальной платежной системе: пыталась ли выяснить дополнительную информацию, приостановить подозрительную транзакцию и т. д.
Эксперты сошлись на том, что пользователю не стоит рассчитывать распознать дипфейк «на глаз», ведь это не удавалось даже высокопоставленным западным чиновникам, становившимся жертвами пранков Вована и Лексуса. Не стоит прибегать и к стандартным вопросам, например, о девичьей фамилии матери или кличке домашнего животного. Полезным же будет спросить: «Когда мы в последний раз виделись и о чем говорили?» Если собеседник представляется сотрудником правоохранительных органов — предложить лично прийти в отделение полиции по официальной повестке.
«Главное — никуда не торопиться. Поняв, что склонить вас к роковому импульсивному действию не удастся, мошенник скорее всего сам потеряет к вам интерес»,