ИоуТубе-ово ново доба ограничење вештачке интелигенције забрињава ЛГБТК+ заједницу

Са историјом неправедног циљања на креаторе ЛГБТК+ садржаја у процесу модерирања, нова ИоуТубе-ова технологија заснована на вештачкој интелигенцији сматра се забрињавајућим следећим кораком за технолошког гиганта.

На службеном ИоуТубе блог прошле недеље, платформа за дељење видеа је представила планове за издавање новог аутоматског софтвера за „доследнију примену старосних ограничења“ на видео снимке за које се сматра да су неприкладни за млађе гледаоце.

Мотивисан недавном забринутошћу за децу у апликацији, нови систем се заснива на машинском учењу софтвер за вештачку интелигенцију са могућношћу да се одрекне људских модератора ради више аутоматизације процес. Питање? ИоуТубе-ови аутоматизовани системи су оптужени да издвајају ЛГБТК+ садржај и креаторе само зато што постоје.

„Машинско учење информишу људи и стварају га, а могуће је имати те предрасуде инхерентне њему или их је научила сама машина“, Јутјубер Роуан Елис рекао је у телефонском интервјуу са Лифевире. „Његова пристрасност у погледу садржаја [ЛГБТК+] била је очигледна у претходним искуствима [ЛГБТК+] Јутјубера, и нисам видео доказе да је било шта урађено да се то спречи.

Душо, сада имамо лошу крв

Еллис је јутјубер који ствара образовни садржај са феминистичким и куеер склоностима, а 2017. објавила је снимак на ограниченом режиму компаније. Као почетни поход на аутоматско модерирање садржаја, овај режим је омогућио корисницима да опционо унапред прегледају „потенцијално зрели садржај“ из предлога и препорука за претрагу.

Сакупивши преко 100.000 прегледа, она верује да је постојао свесни покушај да се њен канал онемогући ограничење због њеног гласног противљења ексцесима ИоуТубе-овог новог корака ка умерености. Други корисници на платформи нису били те среће и дали су до знања Јутјубу.

А групна тужба против Јутјуба је у августу 2019. поднела група од осам ЛГБТК+ креатора који су оптужили компанију из Силиконске долине да ограничава куеер и транс видео ствараоце и садржај. У тужби се наводи да сајт користи „незаконито регулисање садржаја, дистрибуцију и праксу монетизације која стигматизује, ограничава, блокира, демонетизовати и финансијски нанети штету ЛГБТ тужиоцима и широј ЛГБТ заједници." Још увек се пробија кроз Калифорнију судови.

У јуну исте године, платформа је привукла поплаву медијске пажње након што је одбила да брзо укори популарног конзервативног коментатора Стивена Краудера због вишемесечна кампања хомофобичног узнемиравања против Вок новинар и водитељ Карлос Маза. Ово је учврстило оно што је Еллис рекао да је образац са онлајн платформом игнорисања јединствених изазова са којима се суочавају куеер креатори. Недостатак вере ЛГБТК+ креатора у способност ИоуТубе-а да се појави за њих није без заслуга.

„Мислим да нису разумели потребу за транспарентношћу у погледу социјалних питања и обезбеђивањем једнакости“, рекла је она. „И даље има деце широм света која су одрасла са идејом да је бити геј погрешно, а када почну да сумњају у то уверење, али откријте да је затворено безбедном претрагом или ограничењем, то ће ојачати ову идеју да је погрешно, неприкладно, одрасло, перверзно и прљаво“.

Неуспешно аутоматско учење

Са својом ужасном историјом у вези са креаторима ЛГБТК+ садржаја на својој платформи, забринутост око имплементације способности софтвера за машинско учење да препозна веће норме и даље постоји. Дон Хајдер, Извршни директор Центра за примењену етику Марккула, сугерише да је потенцијал за лудост превелики ризик за коцкање.

„Тешко је поверовати да вештачка интелигенција може ефикасно да управља садржајем из више земаља са различитим културним нормама и стандардима“, написао је он у интервјуу е-поштом. „АИ се пречесто сматра одговором на сложена питања. У овом тренутку, вештачка интелигенција и начин на који је креирана муче се да се позабаве чак и једноставним задацима, а камоли било каквом модерацијом садржаја било ког нивоа сложености."

Јутјуб се одлучио за коришћење АИ технологије због недостатка доследне модерације од стране људских модератора, наводи се на његовом блогу. Повећање употребе компјутеризованих филтера за уклањање видео снимака за које се сматра да су неприкладни постало је норма, а примена истих процедура за политику старосног ограничења сматра се логичним следећим кораком.

Као компанија која настоји да постепено побољша своје процесе након дугогодишњих критика у вези са својим односом према деци потрошачима, ова одлука не представља изненађење.

Деца су постала кључна демографска група за сајт за дељење видеа. У августу, Фирма за дигиталну видео аналитику Тубулар открили су да је, осим музичких спотова, садржај намењен деци на врху листе најгледанијих видео снимака на Јутјубу на крају месеца.

Интерес компаније да заштити ову уносну електрану у настајању на платформи има смисла. Међутим, алати који се користе за спровођење ове заштите остају непријатни за оне који су се већ нашли низводно од процедура модерирања компаније.

„Бринем се да ће то учинити много штете и неће заштитити [ЛГБТК+] младе којима су потребне информације, искрене и поштене садржај који би многи [ЛГБТК+] Јутјубери могли да обезбеде, али бива означен у његовом систему као неприкладан“, Елис рекао. „Чак и ако није злонамерно, што ја мислим да није, то је недостатак доприноса различитих гласова – или барем недостатак поштовања.

„То све време видимо у техници. Када гледате у препознавање лица које не може да разликује различита црна лица, или када погледамо медицину и видимо да су лекови тестирани само на одређеном полу. То су већи разговори, а Јутјуб није изузет од тога“.