«Я зламаю вам ноги», або як Google бореться з тероризмом онлайн

Ясмін Грін керує науково-дослідною роботою в Jigsaw, бізнес-інкубаторі, створеному компанією Google. Її робота — розуміти глобальні виклики та створювати для них технічні рішення. Від боротьби з тероризмом, онлайн-цензури та кібер-атак до захисту доступу до інформації.

Стратегія цієї компанії базується не виключно на технічній складовій та комп’ютерних кодах. Для розуміння терористичної пропаганди, її працівники, зокрема й Ясмін, зустрічалися з колишніми бойовиками «Ісламської Держави» в Іраку, аби усвідомити, до чого емоційного апелює пропаганда.

Напередодні конференції Ялтинської Європейської стратегії вона разом із очільником Jigsaw Джаредом Коеном відвідали Донбас, аби адаптувати створені ними механізми для України.

Громадське побувало на виступі Ясмін. Як можна боротися з «інтернет-тролями», розрізняти негативні коментарі та боротися з тероризмом — далі у тезах із промови.

ЧИТАЙТЕ ТАКОЖ Фабрики тролів: як маніпулюють людьми через соцмережі

Два поля битви

Ми їздили в Авдіївку. Бачили пошкоджені обстрілами будівлі. Руйнування від вибуху мін. Це була дуже хвилююча поїздка. Донбас — це фізичне поле битви, де видно її наслідки.

І мене вразив контраст між таким полем битви і між полем битви у цифровому світі. Там уся боротьба невидима. Йдеться не лише про традиційний кібер-простір та комп'ютери, а про новий простір — зламування онлайн-бесід.

Директорка з досліджень та розробок Jigsaw Ясмін Грін під час виступу на щорічній зустрічі YES, Київ, 14 вересня 2018 року Фотографії надані Ялтинською Європейською Стратегією

Граєте ви, або грають вами

Коли я починала, Facebook було 2 роки. Ми були зайняті вибудовою соціальних мереж, і в думках не маючи, що диктатори, терористи чи злочинці будуть намагатися використовувати ті ж самі платформи проти нас. Сьогодні ми все більше починаємо розуміти роль цих платформ у гібридній війні.

ЧИТАЙТЕ ТАКОЖ «Це була моя помилка»: свідчення Цукерберга перед конгресом США

Не існує жодних правил чи норм, які би регулювали такі дії. Тож відповідальні за це люди можуть залишатися безкарними. І ви в Україні набагато ближче знайомі з цією проблемою, ніж ми у Кремнієвій Долині. Ви розумієте потенційний вплив симбіозу кібер-війни та фактичних бойових дій.

Хтось із вас коли-небудь вводив у пошук своє ім’я? (Якщо ви це не робили, то варто це зробити). А тепер уявіть, якщо ви введете своє ім'я, і побачите цілу купу неправдивих звинувачень. Скажімо, що ви зрадник чи антисемітист. А уявіть тепер, що на вас націлилася ціла армія «тролів».

У майбутньому будь-які виборчі перегони будуть мішенню таких нападів. Я, чесно кажучи, є інтернет-оптимістом, але в цьому контексті маємо визнати, що Інтернет став майданчиком для того, аби налаштовувати людей проти своїх лідерів та одне одного. І якщо ви не будете активним гравцем, то гратися будуть вами.

ЧИТАЙТЕ ТАКОЖ Війна з конспірологією: чому Youtube, Facebook і Apple заблокували InfoWars

Емоційна складова — ключ до вирішення

Ключем в цих операціях є емоційна складова, а не технічні можливості чи бюджет. Ми вивчали «Ісламську Державу». Вони успішно залучили до своїх лав десятки тисяч людей. Не тому що технічні генії, а тому, що їм вдалося завоювати серця цих людей. Вони не вдавалися навіть до жодних інновацій. На місцях працювали конкретні групи, і таким чином вони добре зрозуміли поведінку людей. Так само працювала й російська «фабрика тролів».

Директорка з досліджень та розробок Jigsaw Ясмін Грін під час виступу на щорічній зустрічі YES, Київ, 14 вересня 2018 року Фотографії надані Ялтинською Європейською Стратегією

«Я зламаю вам ноги»

Ми задумалися: а якщо створити штучний інтелект, який буде розуміти й емоційну складову? Ми зібрали 10 тисяч людей, які оцінювали різні коментарі за їхнім впливом на емоції. І такий механізм дозволив нам передбачити, які слова змусять когось почуватися у небезпеці, налякають тощо. Так ми створили деякі алгоритми.

Приклад. I'll break your legs at the YES conference.

Варіант 1. Я побажаю вам удачі на конференції Ялтинської Європейської стратегії (break legs — іронічне побажання).

Варіант 2. Я зламаю вам ноги на конференції Ялтинської Європейської стратегії. (break legs — пряме значення, ламати ноги).

Донедавна всі думали, що неможливо створити такий штучний інтелект, який розрізняв би відмінності у реченнях, які виглядають однаково на поверхні, однак насправді мають зовсім різні значення. А це саме те, що ми намагаємося зробити.

Машини не є досконалими. Але якщо ми можемо створити механізм, який би розпізнавав емоційну складову мови, ми будемо здатні легко протидіяти так званим Інтернет-тролям.

ЧИТАЙТЕ ТАКОЖ Пітер Померанцев: «Чому в інтернеті люблять котиків»