Твиттер дели резултате Алгоритамског изазова за пристрасност

Твитер је објавио резултате свог отвореног такмичења да пронађе пристрасности у свом систему за обрезивање фотографија.

Тхе боунти цхалленге отворен у јулу после Корисници Твитера су показали да је аутоматизована алатка за исецање сајта фаворизовала лица људи светлије пути у односу на лица тамнијег тена. То је покренуло нека питања о томе како је софтвер дао предност боји коже и одређеним факторима у односу на друге.

Тхе изазов настојао да пронађите које друге грешке и предрасуде систем за обрезивање може имати да бисте решили проблеме.

Прво место припало је Богдану Кулиничу, чији подношење показао како филтери лепоте могу да играју модел бодовања алгоритма, који, заузврат, појачавају традиционалне стандарде лепоте. Поднесак је показао да алгоритам преферира млада и витка лица са светлом или топлом кожом. Кулиницх је освојио 3.500 долара.

Друго место припало је ХАЛТ АИ, техничком стартупу у Торонту, који је открио слике старијих и инвалида су изрезане са фотографија. Тиму је дато 2.000 долара за друго место.

Треће место и 500 долара припало је Роја Пакзаду, оснивачу Тарааз Ресеарцх-а, који је открио алгоритам фаворизовао изрезивање латиничног писма у односу на арапско писмо, што би могло да нашкоди језичкој разноликости.

Детаљни резултати су били представљен на ДЕФ ЦОН 29 аутор Руман Цховдхури, директор Твиттер-овог МЕТА тима. МЕТА тим проучава ненамерне проблеме у алгоритмима и уклања све врсте родних и расних предрасуда које такви системи могу имати.

Подаци добијени из овог такмичења ће се користити за ублажавање грешака и пристрасности у алгоритму за исецање и помоћи да се обезбеди инклузивније окружење.