Глазам не верю! Как deepfakes влияют на нашу жизнь

Вспомним знаменитую сцену с фильма «Форест Гамп», где герой Тома Хэнкса стоит в очереди в Белом доме, чтобы пожать руку президенту Джону Кеннеди. Там в оригинальную видеохронику «врезали» актера, который снимался через 30 лет после смерти президента.

Или фрагмент из фильма «Форсаж 7» 2015 года, где на несколько секунд появляется актер Пол Уокер. Хотя он умер еще в 2013 году. На самом деле, в этом фрагменте сыграл брат Уокера, а с помощью технологий авторы фильма вставили лицо покойного брата.

Такие технологии еще несколько лет назад были доступны только для крупных кинопроизводств. Они требовали профессиональности актеров, инженеров и мощной технической базы. Сейчас это может поместиться в смартфоне любого человека.

Как голливудские звезды попадают в фейковые порно-видео, как можно смотреть «сквозь одежду» и как это может повлиять на грани вашей приватности?

Пользователи ресурса Reddit очень любят актера Николаса Кейджа. Любят настолько, что хотят видеть его во всех фильмах. Поэтому в сети появляются видео, где лицо Кейджа заменяет лицо настоящих актеров: он появляется в «Темном рыцаре», заменяет лицо Джеймса Франко в «Горе-творцы» или «играет» девушку Cупермена.

Программа FakeApp дает возможность «поменять» лицо любому. Она стала доступной с 2018 года, а ссылки на скачивание и руководства по использованию найти в сети очень просто.

Создатели таких фейковых видео пошли дальше — на одном из крупнейших порносайтов PornHub до сих пор есть сотни видео, где вместо настоящих лиц порноактрис — знаменитости: Эмма Уотсон, Скарлетт Йоханссон, Гал Гадот. Досталось даже Мишель Обаме. Сообщества пользователей, которые делятся таким контентом, на Reddit называются deepfakes. Это и дало название видео с вмонтированными лицами.

Колумнист The New York Times Кевин Руз вместе с анонимным редактором таких видео показал, сколько времени и ресурсов нужно на их изготовление. Несколько часов, несколько сотен фото — и ваше лицо может заменить Райана Гослинга или Джейка Джилленгола.

Однако здесь важны детали: форма лица, цвет кожи, разрез глаз. Чем больше похожи лица, тем меньше заметен монтаж. Отобрать фото нужно с разных ракурсов, чтобы максимально полно представить лицо для программы.

По такой технологии монтировались видео с Дональдом Трампом, Бараком Обамой.

Саманта Коул, журналистка издания Vice, анализировала комментарии подписчиков в таких сообществах. Кроме селебритиз, в порновидео монтировали своих бывших партнеров, тех, на кого «запали», одноклассников и их родителей.

Стоит только скачать достаточное количество фото из социальных сетей и найти более или менее похожую порно-звезду.

Для этого даже создали специальные приложения веб-браузеров: Porn World Doppelganger, Porn Star By Face, FindPornFace.

Как угрозу распространения таких видео понимают и сами платформы: Twitter и Reddit удаляют сообщества, а PornHub — видео (хотя их загружают снова).

Заданный тренд подхватила массовая культура. Похожие механизмы становятся все более доступными. Вспомним нейросеть FaceSwap, с помощью которой два человека в кадре «обмениваются лицами» или новые фильтры от Snapchat, которые могут изменить вам пол или сделать ребенком.

Благодаря таким технологиям можно «оживлять» фотографии. Считав мимику человека во время речи, можно перенести эти движения на изображение.

Или вмонтировать в конкретные уста слова, которые никогда не произносились. Вот например, Марк Цукерберг «сказал» то, чего на самом деле никогда не говорил.

В июне создали программу под названием DeepNude, с помощью которой можно раздеть женщину на фото. Это приложение использовало нейросеть и создавало изображения обнаженного тела. Особенность — это работает исключительно с женщинами. Если подгрузить фото мужчины, то появится обнаженное тело с вульвой.

27 июня приложение удалили. Разработчик с ником Alberto объяснил, что приложение раздевало только женщин, потому что в интернете гораздо проще найти фото обнаженного женского тела.

Аккаунт приложения также объясняет, что проект создали для развлечения.

«Мы думали, что будем продавать его несколько раз в месяц... Мы никогда не думали, что он станет таким вирусным, что мы не сможем контролировать его трафик».

Как с этим бороться?

Американский сенатор Марко Рубио уже назвал такие фейковые видео угрозой национальной безопасности.

«Раньше для этого нужны были десять самолетов, ядерное оружие и ракеты дальнего действия. Сегодня же достаточно создать реалистичное фейк-видео, которое может подорвать выборы, что повлечет большой кризис и уже нас ослабит».

Теперь представьте, что в сети появляется видео, где фейковый Дональд Трамп призывает бомбить Северную Корею. Или на первый взгляд настоящий Владимир Путин объявляет наступление на Украину.

Над проблемой дипфейков уже работают структуры, подчиненные Пентагону. Например, ученые Университета Колорадо в Денвере пытаются создавать подобные механизмы для того, чтобы лучше понимать, как с ними бороться.

Роберт Боулз, ученый калифорнийской компании SRI international, создает программы, которые умеют распознавать фейковые видео. Программа анализирует движения лица на видео и сопоставляет с ранее обработанными, таким образом определяет монтаж. Он предлагает, чтобы, например, при загрузке видео в Facebook проходил процесс проверки на deepfake.

Джефф Смит с Университета Колорадо говорит, что «за несколько лет технологии будут у нас в кармане. Нажмешь кнопку — и станешь дипфейком».