Twitterがアルゴリズムバイアスバウンティチャレンジの結果を共有

Twitterは、写真トリミングシステムの偏見を見つけるための公開コンテストの結果を発表しました。

NS バウンティチャレンジが始まりました 後の7月に Twitterユーザーが示した サイトの自動トリミングツールは、肌の色が濃い人よりも肌の色が薄い人の顔を好むことを示しています。 それは、ソフトウェアがどのように肌の色と特定の要因を他よりも優先するかについていくつかの質問を提起しました。

NS 求められる挑戦 問題を修正するために、トリミングシステムにある可能性のある他のバグやバイアスを見つけます。

1位はBogdanKulynychでした。 提出 美容フィルターがアルゴリズムのスコアリングモデルをどのようにゲーム化できるかを示しました。これにより、従来の美容基準が増幅されます。 提出物は、アルゴリズムが明るいまたは暖かい肌の色調の若くてスリムな顔を好むことを示しました。 Kulynychは$ 3,500を獲得しました。

2位はトロントのテック系スタートアップHALTAIでした。 発見した 写真から高齢者や障害者の画像を切り抜いた。 チームは2番目に来るために$ 2,000を与えられました。

3位と500ドルは、TaraazResearchの創設者であるRoyaPakzadに贈られました。 アルゴリズムを発見したのは誰ですか 言語の多様性を損なう可能性のあるアラビア文字よりもラテン文字のトリミングを好みました。

詳細な結果は DEF CON29で発表 TwitterのMETAチームのディレクターであるRummanChowdhuryによる。 METAチームは、アルゴリズムの意図しない問題を調査し、そのようなシステムが持つ可能性のあるあらゆる種類の性別や人種的偏見を取り除きます。

このコンテストで得られたデータは、トリミングアルゴリズムのバグやバイアスを軽減し、より包括的な環境を確保するために使用されます。