Twitter заплатив $3500 українцю, який довів, що алгоритм обрізання фото соцмережі упереджений до темношкірих чоловіків

Про це повідомляє Wired.

Ще у вересні 2020 року аспірант Колін Медленд із Канади виявив упередженість алгоритму Twitter, який із 2018 року автоматично підпасовує великі зображення під розмір вікна прев’ю. На серії фото зі своїм темношкірим колегою у прев’ю відображався лише Колін.

Це відкриття призвело до хвилі подібних твітів і зрештою вибачення з боку Twitter. Її представник тоді заявив, що соцмережа «перевіряла алгоритм на упередженість», але «з огляду на ці приклади очевидно, що нам потрібен додатковий аналіз».

Цей аналіз з’явився у травні 2021 року. Він підтвердив упередженість алгоритму обрізання фото щодо жінок і людей із білим кольором шкіри — але відсотково ця упередженість була незначна. Зрештою Twitter вирішив здійснити ще одну перевірку.

Соцмережа оголосила про перше у своїй історії «алгоритмічне біґбаунті» — відкритий конкурс для виявлення помилок та упередженостей у своєму алгоритмі. Учасники отримали доступ до його вихідного коду й мали надати переконливі докази упередженості.

На цьому конкурсі й переміг Богдан Кулініч, який за допомогою штучного інтелекту згенерував десятки облич і «прогнав» їх в алгоритмі Twitter. Так він і довів, що той віддає перевагу «худим, молодим, зі світлим кольором шкіри та м’якою її текстурою, а також зі стереотипно жіночними рисами обличчя».

Особливу відзнаку отримав Вінченцо ді Чіко, який виявив, що алгоритм Twitter обрізає темношкірі емодзі частіше за світлошкірі. А Роя Пакзад довела, що алгоритм віддає перевагу англійському тексту перед арабським.

Сам Кулініч оцінив свою перемогу неоднозначно. «Шкода, яку завдають алгоритми, є не просто "багом". Що важливо, багато шкідливих технологій є такими не через випадковості чи ненавмисні помилки, а радше за замовчуванням», — написав він у Twitter.