Twitter публикует результаты конкурса награждений за алгоритмическую предвзятость

Twitter объявил результаты своего открытого конкурса на выявление предубеждений в своей системе кадрирования фотографий.

В вызов баунти открыт в июле после Пользователи Twitter показали что автоматизированный инструмент кадрирования на сайте предпочитает лица людей с более светлым цветом лица лицам с более темным. Это вызвало некоторые вопросы о том, как программное обеспечение отдает приоритет цвету кожи и определенным факторам над другими.

В вызов был направлен на найдите, какие еще ошибки и смещения могут быть в системе обрезки, чтобы исправить проблемы.

Первое место занял Богдан Кулыныч, чей подчинение показали, как фильтры красоты могут соответствовать модели оценки алгоритма, которая, в свою очередь, усиливает традиционные стандарты красоты. Представленные материалы показали, что алгоритм предпочитает молодые и стройные лица со светлым или теплым оттенком кожи. Кулыныч выиграл 3500 долларов.

Второе место занял технологический стартап HALT AI из Торонто,

который обнаружил изображения пожилых людей и инвалидов были вырезаны из фотографий. За второе место команде дали 2000 долларов.

Третье место и $ 500 досталось Ройе Пакзад, основателю Taraaz Research, кто открыл алгоритм отдавал предпочтение обрезке латинских шрифтов перед арабскими, что могло нанести ущерб языковому разнообразию.

Подробные результаты были представлен на DEF CON 29 Румман Чоудхури, директор META-команды Twitter. Команда META изучает непреднамеренные проблемы в алгоритмах и устраняет любые гендерные и расовые предубеждения, которые могут иметь такие системы.

Данные, полученные в результате этого конкурса, будут использоваться для устранения ошибок и предвзятости в алгоритме обрезки и обеспечения более инклюзивной среды.