Bagaimana Perusahaan Media Sosial Mencoba Menghentikan Penyalahgunaan

Perusahaan media sosial berusaha menindak masalah penyalahgunaan yang terus berlanjut di platform mereka.

Instagram mengatakan baru-baru ini bahwa akan lebih mudah untuk mencegah komentar dan pesan langsung yang tidak diinginkan pada layanan jejaring sosial berbagi foto dan video. Pengguna sekarang dapat secara otomatis menyaring konten yang menyinggung dan menyembunyikan komentar dan permintaan pesan langsung dari pengguna tertentu.

"Jika perusahaan media sosial tidak menindak pesan kasar, mereka hanya akan berakhir dengan kasar pengguna saling menyalahgunakan, dan tidak ada yang benar-benar akan mengkonsumsi konten media sosial dengan cara yang wajar mode," Thomas Roulet, seorang profesor di Universitas Cambridge

yang mempelajari masalah media sosial, mengatakan kepada Lifewire dalam sebuah wawancara email.

"Mereka pada dasarnya akan kehilangan pengguna yang baik dan berharga dalam jangka panjang."

Serangan Merajalela

Olahraga telah menjadi titik nyala baru-baru ini untuk serangan media sosial. Setelah final Euro 2020, penggemar yang marah menyerang pesepakbola Inggris di Instagram menyusul kekalahan tim. Insiden tersebut, termasuk komentar rasis dan emoji, menyoroti ketidakberdayaan pengguna Instagram untuk mencegah serangan di platform. Model Chrissy Teigen menghapus akun Twitter-nya pada Maret setelah mengeluhkan pelecehan di platform tersebut.

"Fitur ini kami kembangkan karena kreator dan figur publik terkadang mengalami lonjakan komentar dan permintaan DM secara tiba-tiba dari orang yang tidak mereka kenal," kata Head of Instagram Adam Mosseri. tulis di postingan blog.

Fitur Batas baru Instagram dimaksudkan untuk membantu mencegah penyalahgunaan dengan memungkinkan pengguna memilih siapa yang dapat berinteraksi dengan mereka selama waktu sibuk. Pengguna dapat mengaktifkan pembatasan untuk akun yang tidak mengikuti mereka dan yang memiliki pengikut baru-baru ini. Saat Batas diaktifkan, akun ini tidak dapat memposting komentar atau mengirim permintaan DM untuk jangka waktu tertentu.

Fitur Instagram lain yang disebut Hidden Words, yang dirancang untuk melindungi pengguna dari permintaan DM yang tidak diinginkan, juga sedang diperluas. Hidden Words secara otomatis memfilter permintaan yang berisi kata, frasa, dan emoji yang menyinggung. Filter menempatkan hal-hal yang tidak ingin Anda lihat ke dalam folder tersembunyi, di mana Anda dapat memutuskan apakah Anda ingin melihatnya. Ini juga menyaring permintaan yang kemungkinan besar merupakan spam atau berkualitas rendah.

Instagram telah memperbarui database Hidden Words dengan jenis bahasa ofensif baru, termasuk string emoji, dan memasukkannya ke dalam filter, kata Mosseri. Fitur ini telah diluncurkan di negara-negara tertentu dan akan tersedia di seluruh dunia pada akhir bulan.

Twitter Pertimbangkan Cara Mencegah Penyalahgunaan

Platform media sosial lainnya juga mempertimbangkan langkah-langkah anti-penyalahgunaan.

Twitter sedang menyelidiki cara untuk membantu pengguna mencegah perhatian yang tidak diinginkan. Sistem pemberitahuan perusahaan memberi tahu pengguna ketika mereka telah langsung ditandai dalam sebuah tweet. Fitur ini berguna jika tweet menarik. Tapi konten yang kasar dapat menyebabkan cyberbullying.

Perusahaan mengatakan sedang mempertimbangkan berbagai cara untuk mencegah penyalahgunaan, termasuk membiarkan pengguna "menyebut" diri mereka sendiri. Kemampuan ini akan memungkinkan pengguna untuk menghapus nama mereka dari tweet orang lain sehingga mereka tidak lagi ditandai di dalamnya dan akan mencegah komentar yang tidak diinginkan muncul di feed mereka.

Penyalahgunaan online adalah hal biasa. Survei Pew Research Center baru-baru ini menemukan bahwa 41% orang Amerika secara pribadi mengalami beberapa bentuk pelecehan online. Ketika diminta untuk menilai seberapa baik perusahaan-perusahaan ini mengatasi pelecehan atau intimidasi online di platform mereka, hanya 18% yang mengatakan bahwa perusahaan media sosial melakukan pekerjaan yang sangat baik atau bagus.

Roulet mengatakan bahwa penyalahgunaan di media sosial adalah masalah yang sulit untuk diperbaiki. Titik kontak pertama adalah pengguna yang disalahgunakan yang dapat melaporkan pesan kasar. Setelah pengguna dilaporkan beberapa kali, alamat IP dapat diblokir.

"Yang penting, ketika perusahaan media sosial mengumpulkan data pada pesan yang dilaporkan, mereka mungkin dapat mengotomatisasi dan meningkatkan deteksi pesan ofensif menggunakan pembelajaran mesin, dengan risiko terkadang menyensor konten yang dapat diterima," Roulet ditambahkan.

Mosseri mengatakan Instagram akan "berinvestasi dalam organisasi yang berfokus pada keadilan dan kesetaraan rasial."

"Kami tahu masih banyak yang harus dilakukan, termasuk meningkatkan sistem kami untuk menemukan dan menghapus konten yang melecehkan lebih cepat dan meminta pertanggungjawaban mereka yang mempostingnya," tulis Mosseri.