Twitter deler resultater af Algorithmic Bias Bounty Challenge

Twitter annoncerede resultaterne fra sin åbne konkurrence om at finde skævheder i sit fotobeskæringssystem.

Det bounty challenge åbnet i juli efter Twitter-brugere viste at webstedets automatiske beskæringsværktøj favoriserede ansigter på mennesker med lysere teint frem for dem med mørkere teint. Det rejste nogle spørgsmål om, hvordan softwaren prioriterede hudfarve og visse faktorer frem for andre.

Det udfordring søgt finde hvilke andre fejl og skævheder beskæringssystemet kan have for at løse problemerne.

Førstepladsen gik til Bogdan Kulynych, hvis indsendelse viste, hvordan skønhedsfiltre kunne spille algoritmens scoringsmodel, som igen forstærker traditionelle skønhedsstandarder. Indsendelsen viste, at algoritmen foretrak unge og slanke ansigter med enten en lys eller varm hudtone. Kulynych vandt $3.500.

Andenpladsen gik til HALT AI, en tech startup i Toronto, som opdagede billeder af ældre og handicappede blev beskåret ud af billeder. Holdet fik $2.000 for at komme på andenpladsen.

Tredjepladsen og $500 gik til Roya Pakzad, grundlægger af Taraaz Research, hvem opdagede algoritmen foretrak at beskære latinske skrifter frem for arabiske skrifter, hvilket kunne skade den sproglige mangfoldighed.

De detaljerede resultater var præsenteret på DEF CON 29 af Rumman Chowdhury, direktøren for Twitters META-team. META-teamet studerer de utilsigtede problemer i algoritmer og udelukker enhver form for køns- og raceforstyrrelser, som sådanne systemer kan have.

Dataene opnået fra denne konkurrence vil blive brugt til at afhjælpe fejl og skævheder i beskæringsalgoritmen og hjælpe med at sikre et mere inkluderende miljø.