YouTuben New Age Restriction AI huolestuttaa LGBTQ+ -yhteisöä
Avaimet takeawayt
- YouTuben automaattinen ikärajoitusohjelmisto aiheuttaa huolta LGBTQ+-sisällöstä alustalla.
- Yritystä on vaivannut LGBTQ+-sisällöntuottajia koskeva kiista, joka vahvistaa epäilyksiä.
- Koneoppimisen harha antaa uskottavuutta ajatukselle, että sen epätäydellinen suodattimien toteutus todennäköisesti rajoittaa epäoikeudenmukaisesti pääsyä.
YouTuben uutta tekoälyyn perustuvaa teknologiaa pidetään tekniikan jättiläisen huolestuttavana seuraavana askeleena.
Virallisella YouTube blogi Viime viikolla videonjakoalusta paljasti suunnitelman julkaista uusi automaattinen ohjelmisto, joka "soveltaa johdonmukaisemmin ikärajoituksia" videoihin, joita pidettiin sopimattomina nuoremmille katsojille.
Uusi järjestelmä perustuu koneoppimiseen, koska viimeaikaiset huolenaiheet lapsista sovelluksessa tekoälyohjelmisto, jolla on mahdollisuus luopua ihmismoderaattoreista automaattisempaa käyttöä varten käsitellä asiaa. Ongelma? YouTuben automatisoituja järjestelmiä on syytetty LGBTQ+-sisällön ja sisällöntuottajien erottamisesta olemassa olevan sisällön vuoksi.
"Vaikka se ei olisikaan haitallista, mitä en usko sen olevan, se on erilaisten äänien puuttumista - tai ainakin kunnioituksen puutetta."
"Ihmiset ovat tietoisia koneoppimisesta ja ovat ihmisten luomia, ja on mahdollista, että kyseiset ennakkoluulot ovat siihen luontaisia tai koneen itsensä oppimia." YouTube-käyttäjä Rowan Ellis sanoi puhelinhaastattelussa Lifewire. "Sen ennakkoluulo [LGBTQ+]-sisällön suhteen on ollut ilmeinen [LGBTQ+] YouTube-käyttäjien aiemmissa kokemuksissa, enkä ole nähnyt todisteita siitä, että mitään olisi tehty sen estämiseksi."
Kulta, nyt meillä on huonoa verta
Ellis on YouTube-käyttäjä, joka luo koulutussisältöä feministisesti ja omituisesti, ja vuonna 2017 hän julkaisi videon yrityksen rajoitetussa tilassa. Automaattisen sisällön moderoinnin alkuvaiheessa tämä tila antoi käyttäjille mahdollisuuden esiseuloa "mahdollisesti aikuisille tarkoitettua sisältöä" hakuehdotuksista ja suosituksista.
Hän on kerännyt yli 100 000 katselukertaa ja uskoo, että hänen kanavansa yritettiin tietoisesti estää rajoitus, joka johtuu hänen äänekkäästä vastustuksestaan YouTuben uudella askeleella kohti maltillisuutta. Muut alustan käyttäjät eivät olleet niin onnekkaita, ja he saivat YouTuben tietämään sen.
A ryhmäkanne YouTubea vastaan sen jätti elokuussa 2019 kahdeksan LGBTQ+ -luonnontekijän ryhmä, joka syytti Piilaakson yritystä queer- ja trans-videoiden tekijöiden ja sisällön rajoittamisesta. Oikeusjuttu väittää, että sivusto käyttää "laittomia sisällön sääntely-, jakelu- ja kaupallistamiskäytäntöjä, jotka leimaavat, rajoittavat, estävät, demonisoida ja vahingoittaa taloudellisesti LGBT-kantajien ja suurempaa LGBT-yhteisöä." Se kulkee edelleen Kalifornian läpi tuomioistuimissa.
"Ihmiset ovat tietoisia koneoppimisesta ja ovat ihmisten luomia, ja on mahdollista, että kyseiset ennakkoluulot ovat siihen luontaisia tai koneen itsensä oppimia."
Saman vuoden kesäkuussa alusta sai runsaasti mediahuomiota, kun se kieltäytyi nopeasti nuhtelemasta suosittua konservatiivista kommentaattoria Steven Crowderia. kuukausia kestänyt, homofobinen häirintäkampanja vastaan Vox toimittaja ja juontaja Carlos Maza. Tämä vahvisti Ellisin mukaan verkkoalustan mallia, jossa ei huomioida queer-luojien kohtaamia ainutlaatuisia haasteita. LGBTQ+:n sisällöntuottajien uskon puute YouTuben kykyyn esiintyä heille ei ole ansiota.
"En usko, että he ovat ymmärtäneet avoimuuden tarvetta sosiaalisissa asioissa ja tasa-arvon varmistamisessa", hän sanoi. "Ympäri maailmaa on edelleen lapsia, jotka ovat kasvaneet ajatuksen kanssa, että homous on väärin, ja kun he alkavat kyseenalaistaa sitä. uskoa, mutta jos se suljetaan turvallisella etsinnällä tai rajoituksella, se vahvistaa ajatusta, että se on väärä, sopimaton, aikuinen, perverssi ja likainen."
Automaattinen oppiminen epäonnistuu
LGBTQ+ -sisällöntuottajien alustallaan liittyvän surkean historiansa vuoksi huoli koneoppimisohjelmiston kyvystä havaita suurempia normeja on edelleen olemassa. Don Heider, Markkulan soveltavan etiikan keskuksen toiminnanjohtaja, viittaa siihen, että hulluuden mahdollisuus on liian suuri riski pelaamiseen.
"On vaikea uskoa, että tekoäly voi tehokkaasti hallita sisältöä useista maista, joilla on erilaiset kulttuuriset normit ja standardit", hän kirjoitti sähköpostihaastattelussa. "Tekoäly nähdään liian usein vastauksena monimutkaisiin kysymyksiin. Tässä vaiheessa tekoälyllä ja sen luomistavalla on vaikeuksia selviytyä jopa yksinkertaisista tehtävistä, puhumattakaan kaikesta monimutkaisesta sisällön moderaatiosta."
YouTube päätti käyttää tekoälyteknologiaa, koska ihmisten moderaattorit eivät olleet valvoneet johdonmukaisesti, kertoo sen blogi. Tietokoneistettujen suodattimien käytön lisääminen sopimattomiksi katsottujen videoiden poistamiseen tuli normaaliksi, ja samojen menettelyjen käyttöönottoa sen ikärajoituspolitiikoissa nähdään loogisena seuraavana askeleena.
Koska yritys pyrkii asteittain parantamaan prosessejaan pitkäaikaisen kritiikin jälkeen suhteestaan lapsikuluttajiin, tämä päätös ei ole yllätys.
"En usko, että he ovat ymmärtäneet avoimuuden tarvetta sosiaalisten asioiden ja tasa-arvon varmistamisen suhteen."
Lapsista on tullut videonjakosivuston keskeinen väestöryhmä. Elokuussa, digitaalisen videon analytiikkayritys Tubular havaitsi, että musiikkivideoiden lisäksi lapsille suunnattu sisältö oli YouTuben katsotuimpien videoiden kuukauden lopussa listan kärjessä.
Yrityksen kiinnostus suojella tätä tuottoisaa, nousevaa voimalaitosta alustalla on järkevää. Tämän suojan toteuttamiseen käytetyt työkalut ovat kuitenkin edelleen epämukavia niille, jotka ovat jo huomanneet olevansa yrityksen maltillisen menettelyn jälkeen.
"Olen huolissani siitä, että se tekee paljon haittaa eikä suojaa [LGBTQ+]-nuoria, jotka tarvitsevat informatiivista, rehellistä ja rehellistä sisältöä, jota monet [LGBTQ+] YouTube-käyttäjät saattavat tarjota, mutta joka merkitään järjestelmässään sopimattomaksi", Ellis sanoi. "Vaikka se ei olisikaan haitallista, mitä en usko sen olevan, se on erilaisten äänien puuttumista - tai ainakin kunnioituksen puutetta.
"Näemme sen koko ajan tekniikassa. Kun tarkastelet kasvojentunnistusta, joka ei pysty erottamaan eri mustia kasvoja, tai kun tarkastelemme lääketiedettä ja näemme, että lääkitystä on testattu vain tietyllä sukupuolella. Nämä ovat suurempia keskusteluja, eikä YouTube ole vapautettu siitä."