소셜 미디어 회사가 남용을 막으려는 방법

소셜 미디어 회사는 플랫폼에서 계속되는 학대 문제를 단속하기 위해 노력하고 있습니다.

인스타그램은 최근 사진 및 동영상 공유 소셜 네트워킹 서비스에서 원치 않는 댓글과 다이렉트 메시지를 방지하기가 더 쉬워집니다. 이제 사용자는 불쾌감을 주는 콘텐츠를 자동으로 필터링하고 특정 사용자의 댓글과 쪽지 요청을 숨길 수 있습니다.

"소셜 미디어 회사가 욕설 메시지를 단속하지 않으면 결국 욕설만 남게 될 것입니다. 사용자가 서로를 학대하고 아무도 실제로 합리적인 범위 내에서 소셜 미디어 콘텐츠를 소비하지 않을 것입니다. 패션," 케임브리지 대학의 토마스 룰렛 교수는 소셜 미디어 문제를 연구하는 그는 이메일 인터뷰에서 라이프와이어에 말했습니다.

"그들은 장기적으로 기본적으로 훌륭하고 가치 있는 사용자를 잃게 될 것입니다."

공격이 만연하다

스포츠는 최근 소셜 미디어 공격의 인화점이 되었습니다. 유로 2020 결승전 이후, 분노한 팬들은 팀의 패배 이후 Instagram에서 잉글랜드 축구 선수들을 공격했습니다. 인종 차별적인 댓글과 이모티콘이 포함된 사건은 플랫폼에 대한 공격을 방지하기 위한 Instagram 사용자의 무력감을 강조했습니다. 모델 크리시 타이겐(Chrissy Teigen)은 플랫폼에 대한 학대에 대해 불평한 후 3월에 자신의 트위터 계정을 삭제했습니다.

인스타그램 책임자 Adam Mosseri는 "크리에이터와 공인이 모르는 사람의 댓글과 DM 요청이 갑자기 급증하는 경우가 있기 때문에 이 기능을 개발했습니다."라고 말했습니다. 블로그 게시물에 쓴.

Instagram의 새로운 제한 기능은 사용자가 바쁜 시간에 상호 작용할 수 있는 사람을 선택할 수 있도록 하여 남용을 방지하는 데 도움이 됩니다. 사용자는 자신을 팔로우하지 않는 계정과 최근 팔로워에 속하는 계정에 대한 제한을 켤 수 있습니다. 제한이 활성화되면 이 계정은 지정된 기간 동안 댓글을 게시하거나 DM 요청을 보낼 수 없습니다.

원치 않는 DM 요청으로부터 사용자를 보호하도록 설계된 또 다른 Instagram 기능인 Hidden Words도 확장되고 있습니다. 숨겨진 단어는 공격적인 단어, 구 및 이모티콘이 포함된 요청을 자동으로 필터링합니다. 필터는 보고 싶지 않은 항목을 숨김 폴더에 넣어 보고 싶은지 결정할 수 있습니다. 또한 스팸일 가능성이 있거나 품질이 낮은 요청을 필터링합니다.

인스타그램은 이모티콘 문자열을 포함하여 새로운 유형의 공격적인 언어로 Hidden Words 데이터베이스를 업데이트하고 필터에 포함했다고 Mosseri는 말했습니다. 이 기능은 일부 국가에서 출시되었으며 이달 말까지 전 세계에서 사용할 수 있습니다.

트위터는 남용 방지 방법을 고려합니다

다른 소셜 미디어 플랫폼도 학대 방지 조치를 고려하고 있습니다.

트위터가 조사 중 사용자가 원치 않는 관심을 방지하는 데 도움이 되는 방법. 회사의 알림 시스템은 사용자가 트윗에 직접 태그되면 사용자에게 알립니다. 이 기능은 트윗이 재미있을 때 유용합니다. 하지만 악성 콘텐츠는 사이버 괴롭힘으로 이어질 수 있습니다.

회사는 사용자가 스스로를 '언급'하게 하는 등 악용을 방지하기 위해 다양한 방법을 고려하고 있다고 밝혔습니다. 이 기능을 사용하면 사용자가 다른 사람의 트윗에서 자신의 이름을 제거하여 더 이상 태그가 지정되지 않고 피드에 원치 않는 댓글이 표시되지 않도록 할 수 있습니다.

온라인 학대는 일반적입니다. 최근 Pew Research Center 설문조사 미국인의 41%가 개인적으로 어떤 형태의 온라인 괴롭힘을 경험한 것으로 나타났습니다. 이러한 회사가 플랫폼에서 온라인 괴롭힘이나 따돌림을 얼마나 잘 처리하는지 평가하도록 요청했을 때 소셜 미디어 회사가 훌륭하거나 좋은 일을 하고 있다고 응답한 비율은 18%에 불과했습니다.

룰렛은 소셜 미디어에서의 학대는 해결하기 어려운 문제라고 말했습니다. 첫 번째 접촉 지점은 악성 메시지를 신고할 수 있는 학대 사용자입니다. 사용자가 여러 번 신고되면 해당 IP 주소가 차단될 수 있습니다.

"중요한 것은 소셜 미디어 회사가 보고된 메시지에 대한 데이터를 축적함에 따라 기계 학습을 사용하여 공격적인 메시지 감지, 때때로 허용 가능한 콘텐츠를 검열할 위험이 있습니다." Roulet 추가했습니다.

모세리는 인스타그램이 "인종적 정의와 평등에 초점을 맞춘 조직에 투자할 것"이라고 말했다.

Mosseri는 "악성 콘텐츠를 더 빨리 찾아 제거하기 위해 시스템을 개선하고 게시한 사람에게 책임을 묻는 것을 포함하여 해야 할 일이 더 많다는 것을 알고 있습니다."라고 썼습니다.