Twitter заплатила $3500 украинцу, который доказал, что алгоритм обрезания фото соцсети предзвят к темнокожим мужчинам

Об этом сообщает Wired.

Еще в сентябре 2020 года аспирант Колин Медленд из Канады обнаружил предвзятость алгоритма Twitter, который с 2018 года автоматически подгоняет большие изображения под размер окна превью. На серии фото со своим темнокожим коллегой в превью отображался только Колин.

Это открытие привело к волне подобных твитов и в конце концов извинению со стороны Twitter. Ее представитель тогда заявил, что соцсеть «проверяла алгоритм на предвзятость», но «из этих примеров очевидно, что нам нужен дополнительный анализ».

Этот анализ появился в мае 2021 года. Он подтвердил предвзятость алгоритма обрезания фото по поводу женщин и людей с белым цветом кожи — но процентно эта предвзятость была незначительна. В конце концов Twitter решил провести еще одну проверку.

Соцсеть объявила о первом в своей истории «алгоритмическом бигбаунти» — открытом конкурсе для выявления ошибок и предвзятости в своем алгоритме. Участники получили доступ к его исходному коду и должны были предоставить убедительные доказательства предвзятости.

На этом конкурсе и победил Богдан Кулинич, который с помощью искусственного интеллекта сгенерировал десятки лиц и «прогнал» их в алгоритме Twitter. Так он и доказал, что тот предпочитает «худых, молодых, со светлым цветом кожи и мягкой ее текстурой, а также со стереотипно женственными чертами лица».

Особое отличие получил Винченцо ди Чико, который обнаружил, что алгоритм Twitter обрезает темнокожие эмодзи чаще, чем светлокожие. А Роя Пакзад доказала, что алгоритм отдает предпочтение английскому тексту перед арабским.

Сам Кулинич оценил свою победу неоднозначно. «Ущерб, причиняемый алгоритмами, является не просто "багом". Что важно, много вредных технологий являются такими не из-за случайности или неумышленных ошибок, а скорее по умолчанию», — написал он в Twitter.