„YouTube“ naujojo amžiaus apribojimo AI kelia nerimą LGBTQ+ bendruomenei
Key Takeaways
- „YouTube“ automatinio amžiaus ribojimo programinė įranga kelia susirūpinimą dėl platformoje esančio LGBTQ+ turinio.
- Kompaniją temdė ginčai dėl LGBTQ+ turinio kūrėjų, sustiprinančių abejones.
- Mašininio mokymosi šališkumas suteikia patikimumo idėjai, kad jos netobulas filtrų įdiegimas gali neteisingai apriboti prieigą.
Kadangi moderavimo procese buvo nesąžiningai taikyta LGBTQ+ turinio kūrėjai, naujoji „YouTube“ dirbtiniu intelektu pagrįsta technologija laikoma nerimą keliančiu tolesniu technologijų milžino žingsniu.
Ant pareigūno „YouTube“ tinklaraštis Praėjusią savaitę vaizdo įrašų dalijimosi platforma pristatė planus išleisti naują automatinę programinę įrangą, skirtą „nuosekliau taikyti amžiaus apribojimus“ vaizdo įrašams, kurie laikomi netinkamais jaunesniems žiūrovams.
Motyvuota neseniai susirūpinusių vaikų programoje, naujoji sistema yra pagrįsta mašininiu mokymusi dirbtinio intelekto programinė įranga su galimybe atsisakyti žmonių moderatorių, kad būtų labiau automatizuota procesas. Klausimas? „YouTube“ automatizuotos sistemos buvo apkaltintos LGBTQ+ turinio ir kūrėjų išskyrimu tik dėl esamo.
„Net jei tai nėra kenkėjiška, o nemanau, kad tai yra, tai yra įvairių balsų indėlio trūkumas arba bent pagarbos trūkumas“.
"Mašininį mokymąsi informuoja ir sukuria žmonės, todėl gali būti, kad šie šališkumo trūkumai yra būdingi arba išmokti patys." „YouTube“ narys Rowanas Ellisas sakė duodamas interviu telefonu Lifewire. „Jo šališkumas [LGBTQ+] turinio atžvilgiu buvo akivaizdus ankstesnėje [LGBTQ+] „YouTube“ naudotojų patirtyje, ir aš nemačiau įrodymų, kad būtų kas nors padaryta, kad tai neįvyktų.
Mažute, dabar mums blogas kraujas
Ellis yra „YouTube“ naudotojas, kuriantis mokomąjį turinį su feministine ir keistu linkme, o 2017 m. ji paskelbė vaizdo įrašą įmonės ribotu režimu. Pradedant automatinį turinio moderavimą, šis režimas leido naudotojams pasirinktinai iš anksto patikrinti „potencialiai suaugusiesiems skirtą turinį“ pagal paieškos pasiūlymus ir rekomendacijas.
Surinkusi daugiau nei 100 000 peržiūrų, ji mano, kad buvo sąmoningos pastangos užkirsti kelią jos kanalui apribojimą, nes ji balsingai nepritarė naujojo „YouTube“ žingsnio nuosaikumo link. Kitiems platformos naudotojams nepasisekė, ir jie apie tai sužinojo „YouTube“.
A kolektyvinis ieškinys prieš „YouTube“. 2019 m. rugpjūtį pateikė aštuonių LGBTQ+ kūrėjų grupė, kuri apkaltino Silicio slėnio kompaniją ribojant keistų ir transliuojamų vaizdo įrašų kūrėjus ir turinį. Ieškinyje teigiama, kad svetainė naudoja „neteisėtą turinio reguliavimo, platinimo ir pajamų gavimo praktiką, kuri stigmatizuoja, riboja, blokuoja, demonetizuoti ir finansiškai pakenkti LGBT ieškovams ir didesnei LGBT bendruomenei. teismai.
"Mašininį mokymąsi informuoja ir kuria žmonės, todėl gali būti, kad šie šališkumo trūkumai yra būdingi arba išmokti patys."
Tų pačių metų birželį platforma sulaukė didžiulio žiniasklaidos dėmesio po to, kai atsisakė greitai papeikti populiarųjį konservatorių komentatorių Steveną Crowderį už mėnesius trukusią homofobinio priekabiavimo kampaniją prieš Vox žurnalistas ir laidų vedėjas Carlosas Maza. Tai patvirtino Elliso teigimu, internetinės platformos modelį, kuriuo nepaisoma unikalių iššūkių, su kuriais susiduria keistieji kūrėjai. LGBTQ+ kūrėjų netikėjimas „YouTube“ galimybe jiems pasirodyti nėra be nuopelnų.
„Nemanau, kad jie suprato, kad reikia skaidrumo socialiniais klausimais ir lygybės užtikrinimo“, – sakė ji. „Visame pasaulyje vis dar yra vaikų, kurie užaugo su mintimi, kad būti gėjumi yra neteisinga, ir kai pradeda tuo abejoti. tikėjimą, bet jei jis bus uždarytas saugiai paieškojus ar apribojus, tai sustiprins mintį, kad tai neteisinga, netinkama, suaugusi, iškrypusi ir purvinas“.
Nepavyksta automatinio mokymosi
Turint niūrią LGBTQ+ turinio kūrėjų istoriją platformoje, vis dar kyla susirūpinimas dėl mašininio mokymosi programinės įrangos gebėjimo pastebėti didesnes normas. Donas Heideris, Markkulos taikomosios etikos centro vykdomasis direktorius, rodo, kad kvailystės galimybė yra per didelė rizika lošti.
„Sunku patikėti, kad dirbtinis intelektas gali veiksmingai valdyti turinį iš kelių šalių, kuriose taikomos skirtingos kultūros normos ir standartai“, – rašė jis interviu el. paštu. „AI pernelyg dažnai laikomas atsakymu į sudėtingus klausimus. Šiuo metu AI ir jo kūrimo būdas sunkiai sprendžia net paprastas užduotis, jau nekalbant apie bet kokį turinio moderavimą bet kokio sudėtingumo lygiu.
Kaip rašoma jos tinklaraštyje, „YouTube“ nusprendė naudoti dirbtinio intelekto technologiją, nes moderatoriai nuosekliai moderuoja. Didesnis kompiuterinių filtrų naudojimas netinkamais laikomiems vaizdo įrašams pašalinti tapo norma, o tų pačių procedūrų įgyvendinimas pagal amžiaus ribojimo politiką laikomas logišku tolesniu žingsniu.
Kadangi įmonė, siekianti palaipsniui tobulinti savo procesus po ilgalaikės kritikos dėl santykių su vaikais, toks sprendimas nestebina.
„Nemanau, kad jie suprato, kad reikia skaidrumo socialiniais klausimais ir lygybės užtikrinimo“.
Vaikai tapo pagrindine vaizdo įrašų bendrinimo svetainės demografine dalimi. Rugpjūtį, skaitmeninių vaizdo įrašų analizės įmonė „Tubular“. nustatė, kad be muzikinių vaizdo įrašų, vaikams skirtas turinys atsidūrė daugiausiai žiūrimų vaizdo įrašų sąrašo mėnesio pabaigoje „YouTube“.
Bendrovės interesas apsaugoti šią pelningą, besiformuojančią platformoje galią turi prasmę. Tačiau priemonės, naudojamos šiai apsaugai užtikrinti, išlieka nepatogios tiems, kurie jau atsidūrė po įmonės moderavimo procedūrų.
„Aš nerimauju, kad tai padarys daug žalos ir neapsaugos [LGBTQ+] jaunimo, kuriam reikia informatyvaus, atviro ir sąžiningo turinys, kurį gali pateikti daugelis [LGBTQ+] „YouTube“ naudotojų, tačiau jo sistemoje jis pažymimas kaip netinkamas“, – Ellis. sakė. „Net jei tai nėra piktybiška, o nemanau, kad tai yra, tai yra įvairių balsų indėlio trūkumas arba bent pagarbos trūkumas.
„Mes nuolat tai matome technologijų srityje. Kai žiūrite į veido atpažinimo funkciją, kuri neatskiria skirtingų juodaodžių veidų, arba kai žiūrime į mediciną ir matome, kad vaistai buvo išbandyti tik su tam tikra lytimi. Tai didesni pokalbiai, ir „YouTube“ nuo to nėra atleista“.