Мошенничество
с дипфейками

Дисклеймер!

далее БУДЕТ ПОКАЗАНО ВИДЕО-ДИПФЕЙК. ЛИЦО, КОТОРОЕ ФИГУРИРУЕТ В ДАННОМ ПРИМЕРЕ ДИПФЕЙКА, ДАЛО ДОБРОВОЛЬНОЕ СОГЛАСИЕ НА ИСПОЛЬЗОВАНИЕ СВОЕГО ИЗОБРАЖЕНИЯ ДЛЯ СОЗДАНИЯ ПОКАЗАТЕЛЬНОГО ПРИМЕРА ДИПФЕЙКА. ЛЮБЫЕ СОВПАДЕНИЯ С РЕАЛЬНОСТЬЮ СЛУЧАЙНЫ.

Воспользовались приложением FakeMe, сначала было снято видео с проговоренным текстом, чтобы чётко зафиксировать движение губ. Затем была подставлена фотография человека, для которого создаётся дипфейк, и приложение сгенерировало дипфейк-видео с помощью искусственного интеллекта.

Цель - изучить, как используется дипфейк в сфере мошенничества, его влияние на жертв и общество. Разработать советы по предотвращению этой проблемы.

1) Изучить теоретические аспекты технологии дипфейков и их использование в сфере мошенничества.

3) Проанализировать случаи использования дипфейков в качестве мошенничества.

2) Сформулировать рекомендации для повышения осведомленности о дипфейк мошенничестве.

4) Оценить юридические и этические рамки касающиеся использования дипфейков.

Правовая: Предупреждает правонарушения, формирует понимание правовых последствий дипфейков, содействует правоохранительным органам.

Просветительская: Развенчивает мифы о дипфейках, обучает методам распознавания, развивает критическое мышление.

Социальная: Защищает от мошенничества, сохраняет репутацию, снижает тревожность, поддерживает уязвимые группы.

Что такое deepfake? Что такое deepfake?

Что такое deepfake? Что такое deepfake?

Что такое deepfake? Что такое deepfake?

Кибербезопасность

Мошенничество

Искусственный интеллект

Дипфейк

Политика конфиденциальности

Законодательства, касающиеся использования deepfake технологий

Пробелы в законодательстве:
Основные проблемы связаны с отсутствием четкого определения дипфейков в законодательстве, а также с трудностями доказывания факта создания и распространения поддельного контента. Кроме того, технологии дипфейков развиваются быстрее, чем законы, что создает дополнительные сложности для правоприменения.
Законопроекты и инициативы: В Госдуму внесены законопроекты, направленные на регулирование дипфейков. Один из них предлагает ввести уголовную ответственность за использование дипфейков в противоправных целях, а другой — защитить голос как нематериальное право человека.
Текущее состояние законодательства:
В России отсутствуют специальные законы, регулирующие создание и распространение дипфейков. Однако действующие нормы гражданского, уголовного и административного права могут быть применены для защиты прав пострадавших.

Уголовный кодекс РФ

Гражданский кодекс РФ

Закон РФ «О СМИ»

Федеральный закон № 149-ФЗ «Об информации, информационных технологиях и о защите информации»

Закон «О персональных данных» (№ 152-ФЗ)

Административный кодекс

Таймлайн развития дипфейка

Компания Video Rewrite представила инновационную технологию, которая позволяла синхронизировать артикуляцию лица с синтезированной аудиодорожкой

1997

Ян Гудфеллоу и его коллеги публикуют революционную статью о генеративно-состязательных сетях, заложив основу для deepfake.

2014

Появление первого удобного приложения FakeApp для создания дипфейков.

2017

2019

В США начинают обсуждать регулирование технологии «deepfake» (DEEPFAKES Accountability Act).

Появление ChatGPT и мультимодальных моделей ИИ, способных генерировать не только изображения, но и видео, текст, голос в комплексе.

Евросоюз принимает Al Act, ограничивающий использование deepfake без маркировки. Рост числа политических дипфейков перед выборами в США.

2022

2024

Подмена лица: дипфейк, при котором лицо одного человека на видео или изображении заменяется лицом другого человека.

Имитация голоса: Создание аудиозаписей, которые звучат так, как будто их произнес конкретный человек.

Манипуляции с видео: Изменение действий или выражений лица в видео для создания ложного впечатления о происходящем.

Как распознать дипфейк?

Как защититься от дипфейка?

не загружайте свои фото и видео в соцсети и сторонние сервисы (или ограничьте доступ к ним).

проинформируйте коллег и членов семьи о том, как устроены дипфейки и с какими потенциальными рисками они связаны.

чтобы подтвердить личность собеседника, спросите его о каком-либо факте, который известен только ему и вам.

соблюдайте базовые правила кибербезопасности: надежное хранение паролей, защиту данных, защиту от вредоносного ПО.

Примеры дипфейков

Tilda Publishing

Использование в киноиндустрии: дипфейки в этой сфере помогают визуализировать сцены, которые без этой технологии невозможно было бы реализовать.

Применение дипфейков в образовательной среде: при помощи данной технологии возможно создавать обучающий контент без реальных съёмок.

Реализация рекламы: дипфейки помогают создавать рекламные ролики, не тратя деньги на съемку и найм людей.

Нарушение авторских и смежных прав: Например, когда для генерации подделок используются оригиналы охраноспособных произведений.

Финансовые махинации и вымогательство: Мошенники могут синтезировать голоса членов семьи и сообщать потенциальному потерпевшему о сложной ситуации, просить финансово помочь.

Шантаж: Преступники создают видео или фото, на которых изображено лицо, совершающее аморальные поступки, и требуют заплатить за удаление такого материала.

1. Аферы с «мертвыми душами»
Афера с «мертвыми душами» заключается в том, что преступник крадет данные умершего человека и пытается использовать его в «живом виде» для получения финансовой выгоды.

2. Аферы с открытием счетов
Мошенничество с открытием счетов заключается в том, чтобы использовать украденные или поддельные личности с целью открытия новых банковских счетов. Как только преступник открыл счет, он может нанести серьезный финансовый ущерб, обналичив кредитные карты или взяв кредиты, которые он не намерен возвращать.

3. Аферы с синтезированными личностями.
Мошенничество с использованием синтезированных личностей – это более сложный вид мошенничества, который, как правило, труднее обнаружить. Вместо того чтобы использовать украденную личность одного человека, преступники добывают информацию и сведения по нескольким людям, чтобы создать/синтезировать нового «человека», которого на самом деле не существует. Затем эта синтезированная личность используется для крупных финансовых транзакций или получения новых кредитов.

Правовое регулирование

РФ - отсутствует специализированное законодательство, регулирующее дипфейки, однако некоторые аспекты их использования могут быть охвачены существующими нормативными актами.

В ЕС - запрещается использование систем ИИ, причиняющих физический или психологический вред.

В США - приняты законы, криминализирующие создание и распространение дипфейков со злым умыслом.

В Китае - приняты строгие законы, требующие маркировки всех дипфейков и запрещающие их использование без согласия субъекта.

В экономической сфере
В начале февраля 2024 года стало известно о крупной афере с использованием дипфейков в Гонконге. Крупная местная компания, имеющая международный бизнес, перевела мошенникам $25 млн после сфабрикованной видеоконференции с сотрудников. В сообщении было поручено выполнить секретную транзакцию, но сотрудник не был убежден в правдивости письма. Именно тогда ИИ помог в организации мошеннической схемы. Используя технологию дипфейк, злоумышленник организовал телефонную конференцию с дипфейк-видеозаписями финансового директора и других сотрудников, чтобы убедить жертву перевести деньги. Просмотра коллег на видео было достаточно, чтобы инициировать транзакцию.

Судебная практика

В 2023 году Арбитражный суд Москвы принял первое в России решение по делу, связанному с использованием дипфейк-видео. Компания «Бизнес-аналитика» использовала для своих целей дипфейк-видео, созданное по заказу компании «Рефейс технолоджис» компанией «Адженда медиа групп» (AMG). У «Бизнес-аналитики» не было прав на ролик, поэтому «Рефейс технолоджис» обратился в суд, потребовав компенсацию за нарушение исключительного права.

Решение суда: суд постановил, что технология дипфейк — это «дополнительный инструмент обработки» видео, а не способ его создания. В решении суда говорится, что использование такой технологии не может говорить о том, что видео можно использовать без согласия правообладателя или что создатели такого видео не являются его авторами.

Результат: «Бизнес-аналитика» была обязана выплатить компенсацию в размере 500 тысяч рублей и уплатить пошлину 13 тысяч рублей. Это дело стало первым в России, связанным с признанием дипфейка объектом авторского права.

В России пока нет отдельного закона, регулирующего дипфейки, но можно применять существующие статьи Уголовного кодекса, например, о клевете (ст. 128.1) и незаконном распространении личных данных (ст. 137). Роскомнадзор может блокировать ресурсы, распространяющие вредоносный контент, однако механизм защиты жертв остается сложным. В обществе осознают угрозу дипфейков, но пока нет массовых требований к ужесточению законодательства.

В США в некоторых штатах (Калифорния, Техас) уже приняты законы, ограничивающие использование дипфейков, особенно в политике и в сфере порнографии. На федеральном уровне идут дискуссии о разработке общенациональных норм. Крупные технологические компании, такие как Meta (Facebook) и Google, активно разрабатывают технологии по выявлению дипфейков и маркируют подозрительный контент. В американском обществе проблема дипфейков широко обсуждается, и жертвы кибербуллинга могут рассчитывать на помощь специальных организаций.

Противодействие дипфейкам

Законодательная инициатива на Государственном уровне
1.Законопроект №718538-8 определяет дипфейк в качестве нового квалифицирующего признака в несколько статей УК РФ («Клевета», «Мошенничество»). За совершение преступлений таким способом размер ответственности будет увеличен.
2.Законопроект №718834-8 регулирует охрану голоса как нематериального права человека. Предусмотрены инструменты защиты такого права, в том числе, и при использовании его синтезированного варианта.

Борьба с дипфейками в коммерческой деятельности
1. Наличие у компании Биометрических данных, таких как изображение лица, отпечатки пальцев или голос, могут добавить дополнительный уровень защиты и повысить вероятность выявления дипфейка.
2.Осуществление верификации через альтернативные каналы связи помогают пресекать мошеннические действия с дипфейками. Важные транзакции или действия должны подтверждаться через независимые каналы связи.
3. Применение блокчейна для подтверждения подлинности документов и транзакций может обеспечить дополнительную защиту за счёт неизменяемости записей.

Правоохранительная деятельность: идентификация поддельных видеозаписей, используемых в шантаже и фальсификации доказательств.

Медиа и журналистика: предотвращение распространения фейковых новостей и дезинформации.

Образование и просвещение: повышение цифровой грамотности и обучение людей распознаванию дипфейков.

Социальные сети: разработка алгоритмов для автоматического обнаружения дипфейков в контенте пользователей.

Кибербезопасность: защита от мошенничества в
банковской сфере и социальных сетях.

1.Технологии дипфейков представляют собой мощный инструмент, который использует алгоритмы машинного обучения для создания реалистичных поддельных медиафайлов.
2. Несмотря на быстрое развитие технологий, законодательство во многих странах, в том числе и в России, не успевает за этими изменениями.
3. В ответ на угрозы, связанные с использованием дипфейков, в России предложены законопроекты, направленные на введение уголовной ответственности за их использование в противоправных целях.
4. Развитие технологий распознавания дипфейков также важно, поскольку это может помочь в борьбе с мошенничеством.
5. Использование дипфейков в мошеннических схемах представляет собой серьезную угрозу для безопасности и репутации как индивидуумов, так и организаций.
6. Мировая практика показывает, что некоторые страны уже разработали законодательные меры для борьбы с угрозами, связанными с дипфейками.
Таким образом, мошенничество с использованием дипфейков представляет собой актуальную и серьезную проблему, требующую внимания как со стороны законодателей, так и со стороны общества.

Дорогие читатели

Вы узнали много новой и полезной информации. Теперь мы предлагаем принять участие в увлекательной игре по этой теме, где Вы можете почувствовать себя детективом — сотрудником киберполиции, расследующим следующую серию мошенничеств с использованием дипфейков.

БИБЛИОГРАФИЧЕСКИЙ СПИСОК

1.НОРМАТИВНО-ПРАВОВАЯ БАЗА
1.1 Конституция Российской Федерации (принята всенародным голосованием 12.12.1993 с изменениями, одобренными в ходе общероссийского голосования 01.07.2020): по сост. на 06.10.2022 // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru (дата обращения: 02.03.2025).
1.2. Кодекс Российской Федерации об административных правонарушениях от 30.12.2001 N 195-ФЗ: по сост. на 04.11.2022 // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru (дата обращения: 02.03.2025).
1.3. Уголовный кодекс Российской Федерации от 13.06.1996 N 63-ФЗ: по сост. на 24.09.2022 // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru (дата обращения: 02.03.2025).
1.4. Гражданский кодекс Российской Федерации (часть первая) от 30.11.1994 N 51-ФЗ: по сост. на 25.02.2022 // Официальный интернет-портал правовой информации. URL: http://pravo.gov.ru (дата обращения: 02.03.2025).
1.5. Федеральный закон от 27.07.2006 № 149-ФЗ с изм. и допол. в ред. от 23.11.2024. «Об информации, информационных технологиях и о защите информации»" // Собрание законодательства Российской Федерации. URL: http://pravo.gov.ru/proxy/ips/?docbody=&nd=102108264&rdk= (дата обращения:02.03.2025).
1.6. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных» // Собрание законодательства Российской Федерации. URL: http://pravo.gov.ru/proxy/ips/?docbody=&nd=102108261&rdk= (дата обращения:02.03.2025).
1.7. Закон РФ от 27.12.1991 N 2124-1 (ред. от 23.11.2024) "О средствах массовой информации" // Собрание законодательства Российской Федерации. URL: http://pravo.gov.ru/proxy/ips/?docbody=&nd=102013812&rdk= (дата обращения:02.03.2025).
1.8. Справочно-правовая система «Консультант Плюс» некоммерческая интернет-версия. URL: https://www.consultant.ru/cons/cgi/online.cgi?req=doc&base=MARB&n=2651955#N4sfcfUE1se52ZJ8 (дата обращения:16.03.2025)
2.НАУЧНАЯ ЛИТЕРАТУРА
2.1. Аверкиев А.А., Камбулов Д.А. Кибербезопасность виды и методы // StudNet. 2022. № 1. С. 567 - 573.
2.2. Виноградов В.А., Кузнецова Д.В. Зарубежный опыт правового регулирования технологии «дипфейк» // Право. Журнал Высшей школы экономики. 2024. № 2. С. 215 - 239.
2.3. Зульфугарзаде Т.Э. Особенности развития правового регулирования технологий искусственного интеллекта в Евросоюзе // ЭКОНОМИКА. ПРАВО. ОБЩЕСТВО. 2022. № 7(1). С. 7 - 15.
2.4. Лерчев Д.В. Искусственный интеллект: понятие, признаки, классификация. // Правовой альманах. 2024. № 1. С. 29 - 34.
2.5. Михеев Н.И. Дипфейк как инструмент политической коммуникации // Век информации (Сетевое издание). 2024. № 4 (29). С. 61 - 70.
3.ЭЛЕКТРОННЫЕ РЕСУРСЫ
3.1. Дипфейки и ответственность за их распространение. Что важно знать. legalacademy.ru [сайт]. URL: https://legalacademy.ru/sphere/post/dipfeiki-i-otvetstvennost-za-ih-rasprostranenie-chto-vazhno-znat (дата обращения: 10.03.2025). 3.2. Знакомые все лица: суд взыскал компенсацию за использование чужого видео с дипфейком. forbes.ru [сайт]. URL: https://www.forbes.ru/tekhnologii/501875-znakomye-vse-lica-sud-vzyskal-kompensaciu-za-ispol-zovanie-cuzogo-video-s-dipfejkom (дата обращения:16.03.2025).
3.3. Цифровой обман: какие права нарушают дипфейки и как за это можно наказать. pravo.ru [Сайт]. URL: https://pravo.ru/story/249733/ (Дата обращения: 10.03.2025).
3.4 Что такое политика конфиденциальности и как её составить. unisender [Сайт]. URL: https://www.unisender.com/ru/blog/politika-konfidencialnosti-na-sajte-dlya-chego-nuzhna-i-kak-sdelat/ (Дата обращения: 03.03.2025).
4.РЕСУРСЫ ДЛЯ ИЗОБРАЖЕНИЙ
4.1. PNG картинки PNGwing [Сайт]. URL: https://clck.ru/3MSsoa
4.2. Карта Гонконга Vecteezy [Сайт]. URL: https://www.vecteezy.com/png/33252221-hong-kong-map-map-of-hong-kong-in-administrative-regions
4.3. Сгенирация фотографий Шедеврум [Сайт]. URL: https://shedevrum.ai/
4.4. Дипфейк PNG картинки icons8.ru [Сайт]. URL: https://icons8.ru/icons/set/deepfake