Twitter deelt resultaten van Algorithmic Bias Bounty Challenge
Twitter maakte de resultaten bekend van zijn open competitie om vooroordelen te vinden in zijn systeem voor het bijsnijden van foto's.
De bounty-uitdaging geopend in juli daarna Twitter-gebruikers toonden dat de geautomatiseerde bijsnijdtool van de site de voorkeur gaf aan de gezichten van mensen met een lichtere huidskleur dan die met een donkere huidskleur. Het riep enkele vragen op over hoe de software de voorkeur gaf aan huidskleur en bepaalde factoren boven andere.
Vladimir Vladimirov/Getty Images
De uitdaging gezocht ontdek welke andere bugs en vooroordelen het bijsnijdsysteem kan hebben om de problemen op te lossen.
De eerste plaats ging naar Bogdan Kulynych, wiens dwang liet zien hoe schoonheidsfilters het scoremodel van het algoritme kunnen spelen, dat op zijn beurt de traditionele schoonheidsnormen versterkt. Uit de inzending bleek dat het algoritme de voorkeur gaf aan jonge en slanke gezichten met een lichte of warme huidskleur. Kulynych won $ 3.500.
De tweede plaats ging naar HALT AI, een tech startup in Toronto,
De derde plaats, en $ 500, ging naar Roya Pakzad, oprichter van Taraaz Research, wie heeft het algoritme ontdekt? gaf de voorkeur aan het bijsnijden van Latijnse schriften boven Arabische schriften, wat de taalkundige diversiteit zou kunnen schaden.
Klaus Vedfelt/Getty Images
De gedetailleerde resultaten waren: gepresenteerd op DEF CON 29 door Rumman Chowdhury, de directeur van het META-team van Twitter. Het META-team bestudeert de onbedoelde problemen in algoritmen en verwijdert elke vorm van gender- en raciale vooroordelen die dergelijke systemen kunnen hebben.
De gegevens die uit deze wedstrijd worden verkregen, zullen worden gebruikt om bugs en vooroordelen in het bijsnijdalgoritme te verminderen en te zorgen voor een meer inclusieve omgeving.