Инновация последнего десятилетия – дипфейки. Эта технология на основе машинного обучения и искусственного интеллекта создает убедительные подделки человеческого лица и голоса. Несмотря на условно положительный опыт их использования в киноиндустрии, рекламе и обучении, юридические и этические вопросы применения остаются нерешенными.
Два года назад мы уже касались этой темы – тогда законодательные инициативы в разных странах только обретали контуры. В этой статье расскажем, что изменилось за прошедшее время.
Новые примеры
Использование дипфейков может иметь юридические последствия – особенно, если они применяются для незаконных и неэтичных целей.
В 2021 году мошенники с помощью технологии “deep voice” подделали голос директора банка в ОАЭ и от его имени распорядились вывести 35 млн.долларов на подконтрольные счета в другой стране. Это стало вторым зафиксированным случаем подобного мошенничества, и первым успешным.
Компрометация – еще один способ нарушения закона с помощью дипфейков. Премьер-министр Италии Джорджия Мелони с 2020 года судится с авторами порнографических материалов на основе ее фотографий. Дело должно создать прецедент, а компенсация в 100,000 евро пойдет “на поддержку женщин, ставших жертвами физического и психологического насилия”.
Более изощренный вариант компрометации – политическая борьба. В этом случае дипфейки могут повлиять на общественное мнение и социальные процессы. Пример: дипфейк, где Барак Обама называет Дональда Трампа “complete dipshit”.
Новые последствия
Согласно отчёту Identity fraud report, в 2023 г. число попыток мошенничества с использованием дипфейков выросло на 3000% по сравнению с 2022 г. Невероятные показатели, правда?
Неудивительно, что законодательства разных стран предпринимают попытки регулирования технологии.
Китай
Передовым регулятором не только дипфейков, но и в целом искусственного интеллекта является Китай. Не исключено, что другие страны в будущем могут ориентироваться на этот опыт. Правительство Китая с 2017 года разрабатывает соответствующее законодательство.
Основным законом в Китае, регулирующим всё в Интернете, является Закон о кибербезопасности 2017 года. Он устанавливает требования по защите данных и конфиденциальности, предотвращению ложной информации, а также обязанность интернет-платформ содействовать в расследовании преступлений, в том числе с использованием дипфейков.
В декабре 2019 года Администрация киберпространства Китая (Cyberspace Administration of China, CAC) опубликовала специальный набор правил (Regulations on Deep Synthesis Technologies), направленных на регулирование использования дипфейк-технологий. Эти правила требуют:
Обязательную маркировку: Все дипфейк-контенты должны быть явно обозначены как синтетические или искусственно созданные.
Идентификацию пользователей: Платформы обязаны идентифицировать пользователей, которые создают и распространяют дипфейк-контент.
Отчетность и мониторинг: Интернет-платформы должны отслеживать и удалять подозрительный контент, а также сообщать о нарушениях в соответствующие органы.
США
В США с начала 2024 года регулирование дипфейков вступило в новую фазу. Ранее законодательные инициативы появлялись лишь на уровне отдельных штатов, в основном ограничивая и накладывая ответственность за распространение дипфейков интимного характера. В феврале Федеральная торговая комиссия США предложила запретить распространение дипфейков от имени правительства или бизнеса (Impersonation Rule) на всей территории страны.
Россия
Законодательные инициативы России в отношении дипфейков по-прежнему находятся в стадии развития. В 2024 году МВД, Минцифры и Роскомнадзор заявили о необходимости правового регулирования данной технологий.
Уже сейчас существуют механизмы гражданского законодательства, которые могут помочь в борьбе с дипфейками. С правовой точки зрения дипфейк тесно связан с правом на изображение (образ), персональными данными и интеллектуальными правами:
Согласно статье 152.1 ГК РФ, необходимо получать согласие на использование изображения человека, а если он умер – у его родственников.
Изображения с лицом человека могут рассматриваться как его биометрические персональные данные. Использовать такое изображение разрешено только с согласия человека, который на нем изображен (ч. 4. ст. 9 ФЗ № 152 - ФЗ “О персональных данных”.)
Также нужно помнить, что у исходного материала, который является основой для дипфейка, есть автор или правообладатель и без его согласия нельзя использовать материал.
Инициативы
До недавнего времени в России нельзя было привлечь к уголовной ответственности за дипфейки, но в 2024 года предлагается внести изменения сразу в несколько статей.
В январе 2024 года в первом чтении были приняты поправки к статье 272.1 Уголовного кодекса РФ, вводящие уголовную ответственность за использование, передачу, сбор и хранение персональных данных, полученных незаконным путем, а также за создание и распространение информационных ресурсов, содержащих такие данные.
Второй ветвью предлагают ввести ответственность, в случае, если фейковый материал ввел в заблуждение. Изменения затронут ряд статей Уголовного кодекса, а именно: статьи 128 "Клевета", 158 "Кража", 159 "Мошенничество", 163 "Вымогательство" и 165 "Причинение имущественного ущерба путем обмана или злоупотребления доверием". Об этом заявил депутат Ярослав Нилов. В зависимости от статьи виновным будет грозить штраф до 1,5 млн рублей или в размере иного дохода за период до двух лет либо лишение свободы на срок до семи лет.
Также одним из предложенных подходов является включение использования продуктов искусственного интеллекта в перечень отягчающих обстоятельств при совершении преступлений (статья 63 УК РФ).
Также предлагается ввести обязательную маркировку. С такой инициативой выступил заместитель председателя комитета Госдумы по информационной политике, информационным технологиям и связи Антон Горелкин у себя в Телеграмм канале.
Промежуточные итоги
Все развитые страны понимают риски, связанные с дипфейками. Их влияние на общество, политику и финансы нельзя недооценивать. Однако, по состоянию на 2024 год правовое регулирование в большинстве стран все еще находится на этапе планирования или становления.
Универсального способа борьбы с дипфейками в России нет, а все возможности находятся в области применения статьи 152.1 ГК РФ – мы описывали их ранее. В рамках этой же статьи стоит учитывать риски, если в своей работе вы используете образ реального человека.
Мы продолжаем следить за развитием темы.