Twitter, 알고리즘 바이어스 바운티 챌린지 결과 공유

트위터는 사진 자르기 시스템에서 편견을 찾기 위한 공개 경쟁의 결과를 발표했습니다.

NS 현상금 도전이 열렸습니다 7월 이후 트위터 사용자가 보여준 사이트의 자동화된 자르기 도구는 안색이 어두운 사람들보다 밝은 안색을 가진 사람들의 얼굴을 선호합니다. 소프트웨어가 피부색과 특정 요소를 다른 요소보다 우선시하는 방법에 대해 몇 가지 질문을 제기했습니다.

NS 도전 문제를 해결하기 위해 자르기 시스템이 가질 수 있는 다른 버그와 편향을 찾으십시오.

1위는 Bogdan Kulynych에게 돌아갔습니다. 항복 뷰티 필터가 알고리즘의 스코어링 모델을 어떻게 조작할 수 있는지 보여주고, 이는 차례로 전통적인 뷰티 기준을 증폭시킵니다. 제출물은 알고리즘이 밝거나 따뜻한 피부 톤을 가진 젊고 날씬한 얼굴을 선호하는 것으로 나타났습니다. Kulynych는 3,500달러를 받았습니다.

2위는 토론토의 기술 스타트업인 HALT AI, 발견한 노인과 장애인의 이미지는 사진에서 잘렸습니다. 팀은 2위를 차지한 대가로 2,000달러를 받았습니다.

3위와 $500는 Taraaz Research의 설립자인 Roya Pakzad에게 돌아갔습니다. 알고리즘을 발견한 사람 언어적 다양성에 해를 끼칠 수 있는 아랍어 스크립트보다 라틴 문자 자르기를 선호했습니다.

자세한 결과는 DEF CON 29에서 발표된 Twitter META 팀의 이사인 Rumman Chowdhury가 작성했습니다. META 팀은 알고리즘의 의도하지 않은 문제를 연구하고 그러한 시스템이 가질 수 있는 모든 종류의 성별 및 인종 편견을 제거합니다.

이 콘테스트에서 얻은 데이터는 자르기 알고리즘의 버그와 편향을 완화하고 보다 포괄적인 환경을 보장하는 데 사용됩니다.