YouTube의 새로운 연령 제한 AI, LGBTQ+ 커뮤니티 걱정

조정 과정에서 LGBTQ+ 콘텐츠 제작자를 부당하게 표적으로 삼은 이력이 있는 YouTube의 새로운 AI 기반 기술은 이 거대 기술 기업에게 문제가 되는 다음 단계로 간주됩니다.

공식에서 유튜브 블로그 지난 주 비디오 공유 플랫폼은 어린 시청자에게 부적절하다고 판단되는 비디오에 "더 일관되게 연령 제한을 적용"하는 새로운 자동 소프트웨어를 출시할 계획을 발표했습니다.

최근 앱에서 어린이에 대한 우려에 자극을 받아 새로운 시스템은 머신 러닝을 기반으로 합니다. 보다 자동화된 작업을 위해 인간 중재자를 생략할 수 있는 기능을 갖춘 인공 지능 소프트웨어 프로세스. 문제? YouTube의 자동화 시스템은 단순히 존재하는 것으로 LGBTQ+ 콘텐츠와 제작자를 가려낸다는 비난을 받아 왔습니다.

"머신 러닝은 인간에 의해 정보를 얻고 생성되며, 이러한 편견이 내재되어 있거나 기계 자체가 학습하는 것이 가능합니다." 유튜버 로완 엘리스 와의 전화 인터뷰에서 말했다 라이프와이어. "[LGBTQ+] 콘텐츠에 대한 편견은 [LGBTQ+] YouTube 사용자의 이전 경험에서 명백했으며, 나는 그것을 막기 위해 어떤 조치를 취했다는 증거를 보지 못했습니다."

자기야, 이제 우리는 나쁜 피를 얻었다

Ellis는 페미니스트와 퀴어 성향으로 교육 콘텐츠를 제작하는 유튜버로, 2017년 그녀는 비디오를 게시했습니다 회사의 제한 모드에서. 자동 콘텐츠 조정에 대한 초기 시도로 이 모드를 통해 사용자는 검색 제안 및 권장 사항에서 "성숙할 가능성이 있는 콘텐츠"를 선택적으로 사전 선별할 수 있습니다.

조회수가 100,000회 이상인 그녀는 자신의 채널을 조정을 향한 YouTube의 새로운 단계의 초과에 대한 그녀의 강력한 반대로 인한 제한. 플랫폼의 다른 사용자는 운이 좋지 않아 YouTube에 알렸습니다.

NS YouTube를 상대로 한 집단 소송 2019년 8월 실리콘 밸리 회사가 퀴어 및 트랜스 비디오 제작자와 콘텐츠를 제한한다고 비난한 8명의 LGBTQ+ 제작자 그룹이 제출했습니다. 소송은 사이트가 "불법적인 콘텐츠 규제, 배포 및 수익 창출 관행을 사용하여 낙인, 제한, 차단, LGBT 원고와 더 큰 LGBT 커뮤니티에 금전적 피해를 입히고 재정적으로 해를 끼치십시오." 여전히 캘리포니아 전역에서 진행되고 있습니다. 법원.

같은 해 6월, 이 플랫폼은 인기 보수 평론가인 스티븐 크라우더(Steven Crowder)에 대한 신속한 질책을 거부해 언론의 많은 주목을 받았다. 몇 개월에 걸친 동성애혐오성 괴롭힘 캠페인 에 맞서 소리 저널리스트이자 진행자인 Carlos Maza. 이것은 Ellis가 퀴어 제작자가 직면한 고유한 문제를 무시하는 온라인 플랫폼의 패턴이라고 말한 것을 확고히 했습니다. LGBTQ+ 크리에이터가 YouTube가 자신을 대변할 수 있다는 믿음이 부족한 것은 장점이 없는 것이 아닙니다.

그녀는 "사회 문제와 평등 보장과 관련하여 투명성이 필요하다는 것을 이해하지 못했다고 생각한다"고 말했다. "전 세계에는 여전히 게이가 되는 것이 잘못된 것이라는 생각을 갖고 성장한 아이들이 있습니다. 믿음이 있지만 안전한 검색이나 제한에 의해 폐쇄된 것을 발견하면 그것이 잘못되고, 부적절하고, 성인적이고, 비뚤어지고, 더러운."

자동 학습 실패

플랫폼의 LGBTQ+ 콘텐츠 제작자에 대한 추잡한 역사와 함께 더 큰 규범을 식별하는 기계 학습 소프트웨어의 구현에 대한 우려는 여전히 도사리고 있습니다. 돈 하이더, Markkula 응용 윤리 센터 상임 이사, 어리석음의 가능성이 도박을 하기에는 너무 큰 위험이 있음을 시사합니다.

그는 이메일 인터뷰에서 "AI가 문화적 규범과 표준이 다른 여러 국가의 콘텐츠를 효과적으로 통제할 수 있다고 믿기 어렵다"고 말했다. "AI는 복잡한 질문에 대한 답으로 너무 자주 간주됩니다. 이 시점에서 AI와 AI가 생성되는 방식은 복잡한 수준의 콘텐츠 조정은 고사하고 간단한 작업도 처리하기 위해 고군분투합니다."

블로그에 따르면 YouTube는 인간 중재자의 일관된 중재가 부족하기 때문에 AI 기술의 사용을 결정했습니다. 부적절하다고 판단되는 동영상을 삭제하기 위해 전산화된 필터 사용을 늘리는 것이 표준이 되었으며 연령 제한 정책에 대해 동일한 절차를 구현하는 것이 논리적인 다음 단계로 간주됩니다.

아동 소비자와의 관계에 대한 오랜 비판 끝에 점차 프로세스를 개선하고자 하는 회사로서 이러한 결정은 놀라운 일이 아닙니다.

어린이는 비디오 공유 사이트의 주요 인구통계가 되었습니다. 8 월, 디지털 비디오 분석 회사 Tubular 뮤직 비디오 외에도 어린이를 대상으로 하는 콘텐츠가 YouTube에서 가장 많이 본 동영상의 월말 목록에서 1위를 차지했습니다.

플랫폼에서 이 수익성 있는 신흥 강자를 보호하려는 회사의 관심은 일리가 있습니다. 그러나 이 보호를 시행하는 데 사용되는 도구는 이미 회사 조정 절차의 하위 단계에 있는 사람들에게 여전히 불편합니다.

"내 걱정은 그것이 많은 피해를 입히고 유익하고 솔직하고 정직한 [LGBTQ+] 청소년을 보호하지 않을 것입니다. 많은 [LGBTQ+] YouTube 사용자가 제공할 수 있지만 시스템에서 부적절한 것으로 표시되는 콘텐츠" Ellis 말했다. "악의가 아니더라도 다양한 목소리의 의견이 부족하거나 최소한 존중이 부족하다고 생각합니다.

"우리는 기술 분야에서 항상 그것을 봅니다. 다른 흑인 얼굴을 구별하지 못하는 안면 인식을 볼 때, 또는 우리가 약을 보고 약물이 특정 성별에 대해서만 테스트되었다는 것을 볼 때. 이것은 더 큰 대화이며 YouTube도 예외는 아닙니다."