Люди, яких не існує. Як росія використовує ШІ-відео для просування пропаганди

Нова зброя ІПСО

Упродовж останнього десятиліття найбільшу увагу привертали дипфейки відомих людей — політиків, президентів чи знаменитостей. Проте нині в дезінформаційних кампаніях, зокрема від росії, дедалі частіше застосовують інший підхід: замість підробки реальних людей створюють нових — яких ніколи не існувало.

У звіті LetsData, сформованому на запит hromadske, такий підхід називають використанням «синтетичних авторитетних фігур». Ефективність такого контенту ґрунтується на тому, що глядач сприймає героя як представника певної соціальної групи. Вигаданий військовий переконливіше поширює твердження на теми про ТЦК, ніж анонімний допис, а створений ШІ народний депутат озвучує політичні рішення з видимою легітимністю.

Відео з вигаданими людьми завжди поширюють якийсь конкретний наратив. Приміром, ШІ-відео, опубліковане 7 травня у Facebook сторінкою «Солдатська правда», вже зібрало понад 915 тисяч переглядів. У ньому згенерований військовий розповідає, що два роки не був удома, і ставить запитання: чи справді його жертва потрібна, якщо «вони» будують собі «вже третій будинок на Французькій Рив'єрі»? Ключовий наратив — військові жертвують роками свого життя, тоді як політики збагачуються за кордоном.

В іншому відео згенерована інтерв’юерка ставить рабину запитання про ухилянтів. У відповідь персонаж заявляє, що тих, хто ухиляється від військової служби, слід позбавляти українського громадянства. Далі він стверджує, що Україна належить «нам, справжнім українцям». Це відео опублікували в TikTok 1 травня, і воно вже зібрало 557 тисяч переглядів. І наратив тут не лише про те, що ухилянтів слід позбавляти громадянства, а й про те, що Україна належить євреям.

425 тисяч з 30 квітня набрало відео у TikTok, у якому ШІ-військовослужбовець стверджує, що Володимир Зеленський не припинить війну доти, доки «не залишиться нікого — ні в окопах, ні в селах, ні в містах», і лише після цього, мовляв, оголосить про перемогу. Такий наратив перетворює меседж про виснаження та деморалізацію суспільства на персоналізоване звинувачення на адресу глави держави.

У спільноті Molfar стверджують: сучасні інструменти штучного інтелекту використовуються для створення російських ІПСО. І росія вже перейшла до конвеєрного виробництва ШІ-відео, роблячи ставку на кількість.

«Дипфейки відомих осіб, наприклад, Зеленського, соцмережі навчилися розпізнавати й видаляти відносно швидко, однак безіменні фейки “військових” або “чиновників” можуть крутитися в алгоритмах тижнями, збираючи мільйони переглядів», — зазначили дослідники у звіті для hromadske.

Як приклад вони наводять російську операцію Storm-1516 — наступника відомої «фабрики тролів», яка спеціалізується на створенні фейкових відео з вигаданими свідками, викривачами та постраждалими. Такі ролики часто подають як випадкові записи очевидців або «зливи» інформації, після чого їх підхоплюють мережі ботів та анонімні канали.

Британський журналіст і дослідник пропаганди в сучасній росії Пітер Померанцев, переглянувши кілька ШІ-роликів, запропонованих hromadske, зазначив, що зараз стає все складніше відрізнити справжній контент від згенерованого.

Поки ми ще можемо більш-менш. А яким буде майбутнє? Буде, напевно, такий світ, де, якщо у тебе є гроші, якщо у тебе є якийсь, можливо, статус, тоді у тебе буде мультипас до правди. Буде резервація правди, за яку буде потрібно платити.Пітер Померанцев, британський журналіст і дослідник пропаганди в сучасній росії.

Емоції як головний інструмент

У своєму дослідженні про те, як росія створює ІПСО проти України, спільнота Molfar звертає увагу: використання ШІ дозволяє масштабувати атаки з мінімальними витратами. Брехня поширюється за секунди, а спростування з’являється за години або навіть дні. Цей розрив у часі є структурною перевагою ворога.

Якщо ще кілька років тому створення переконливих дипфейків вимагало дорогого обладнання та спеціальних навичок, то сьогодні багато сервісів доступні безплатно або за малу плату, каже hromadske експерт з кібербезпеки Костянтин Корсун.

Відео, згенеровані штучним інтелектом, які просувають певні наративи, часто об’єднують спільні риси: статичний кадр, неприродна міміка та вигляд волосся, а головне — гостра соціальна тематика, яка спрямована на розкол суспільства.

«Такі відео створюються з розрахунком на тригерні емоції: гнів, страх, відчуття несправедливості. Коли людина бачить обурливу заяву, то критичне мислення відключається. Користувачі пишуть гнівні коментарі, роблять репости», — зазначають дослідники Molfar.

Алгоритми бачать цю взаємодію та починають просувати відео органічно. Ботофермам достатньо «прогріти» акаунт чи відео на старті, а далі алгоритми понесуть його у масові рекомендації реальним українцям.

На думку Костянтина Корсуна, успіх такого контенту багато в чому пояснюється людською психологією.

«Люди споживають значно ефективніше контент, який вони бачать очима, ніж чують вухами. Це фізіологія і психологія… Недарма є такий вислів: "Побачити на власні очі"», — зазначив він.

Виявити штучність у відео, де в кадрі є людина, дозволяють візуальні дефекти ШІ: штучне кліпання очима, розсинхрон звуку і губ, відсутність мікроміміки. Це доволі чіткі маркери ботоферм, стверджують дослідники Molfar.

Крім цього, слід звертати увагу на:

• анонімність джерела. У відео фігурують «ноунейми» — немає імен, посад або бригад;
• синхронність поширення. Одне й те ж відео або відео з однаковою тематикою в той самий час з’являються на десятках нових або «пустих» сторінок;
• штучний розгін (прогрів). Поява під відео сотень переглядів, лайків та однотипних коментарів у перші години. «Авторами» таких активностей можуть бути пусті акаунти, акаунти, що було вкрадено, акаунти іноземців тощо;
• кросплатформність. Заливання роликів одразу на всі популярні платформи: TikTok, YouTube, Facebook, Telegram та X (Twitter).

Костянтин Корсун переконаний: головною лінією оборони залишається критичне мислення і здоровий глузд користувачів.

Критичне мислення — це сумніватися, а сумніватися — значить перевіряти через інші незалежні джерела. Якщо у ролику йдеться, що «згідно з даними BBC», то зайдіть на сайт BBC і подивіться, чи є там такі дані… І другий момент — здоровий глузд, який теж не завжди вмикається в людей. Якщо тобі кажуть, що ти виграв квартиру в Києві, а ти нічого для цього не робив, то здоровий глузд же підказує, що це маніпуляція.Костянтин Корсун, експерт з кібербезпеки

Спроби врятуватися 

Соціальні мережі намагаються реагувати на поширення ШІ-контенту. Платформи вводять правила щодо маркування матеріалів, створених за допомогою штучного інтелекту, а також можуть видаляти відео після скарг користувачів або перевірок фактчекерів.

Однак цього часто недостатньо. Поки контент перевіряють, він встигає набрати сотні тисяч переглядів і поширитися серед аудиторії.

Микита Потураєв зазначив, що про ризики масового використання штучного інтелекту для дезінформації говорить уже кілька років. І його комітет, а також комітет з питань цифрової трансформації та Мінцифри «знали про ці загрози».

«Ми дивилися… на європейський Акт про штучний інтелект. На мій погляд, він абсолютно застарів уже на моменті народження, тому що він має, за моєю оцінкою, скоріше заборонний характер. А це з самого початку була помилка, тому що було абсолютно зрозуміло як для мене, так і для багатьох фахівців, які ці питання вивчали, що забороняти це не вийде, що ця технологія буде поширюватися», — зауважив депутат.

Натомість, каже, більш доречним є створення державою власних ШІ-технологій, зокрема і для боротьби з дипфейками, які будуть вироблятися також штучним інтелектом.

Сьогодні Україна працює над імплементацією європейських підходів до регулювання штучного інтелекту. Законотворці підготували зміни до законодавства про медіа й рекламу в законопроєктах №12111 та  №12253, й обидва вже пройшли перше читання. Там, серед іншого, прописані норми про заборону використання в рекламі дипфейкових голосів і зображень без згоди людини.

А Мінцифри тим часом готує власний закон про штучний інтелект, який, як обіцяють, «врахує інтереси суспільства, держави та бізнесу» і водночас «синхронізує наше поле з правилами ЄС». Деталі поки не відомі.

Втім, навіть самі законодавці визнають: регулювання має свої межі. Микита Потураєв наголошує, що великі технологічні платформи часто не поспішають адаптовувати свої алгоритми до вимог державних регуляторів. І ця проблема стосується не лише України.

Якщо вже навіть об'єднана Європа не має сил, спроможності й міцності захищати права своїх громадян у цій сфері у певних конфліктних питаннях з міжнародними корпораціями, які є власниками великих соціальних платформ, що вже казати про країни-кандидати [на вступ до] ЄС.Микита Потураєв, голова комітету Верховної Ради з питань гуманітарної та інформаційної політики

Саме тому держава має не лише регулювати, а й працювати з людьми. Як приклад, Микита Потураєв наводить Фінляндію, Естонію та Швецію, де медіаграмотність розвивають десятиліттями — від дитячих садків до системи освіти для дорослих.

«Безумовно, я поділяю необхідність з цим боротися всім нашим українським національним світом. Але це не робиться за наказом. Тут держава не відхрещується від своїх обов'язків і своєї ролі, але має бути й національне усвідомлення», — резюмує депутат.