Як компанії соціальних мереж намагаються зупинити зловживання

Компанії соціальних мереж намагаються подолати проблему зловживань на своїх платформах.

Про це нещодавно повідомив Instagram що це полегшить запобігання небажаним коментарям та прямим повідомленням у службі соціальних мереж для обміну фотографіями та відео. Тепер користувачі можуть автоматично відфільтровувати образливий вміст і приховувати коментарі та запити на прямі повідомлення від конкретних користувачів.

«Якщо компанії в соціальних мережах не будуть боротися з образливими повідомленнями, вони закінчать лише образливими користувачі зловживають один одним, і ніхто фактично не буде споживати вміст соціальних мереж в розумних межах мода", Томас Руле, професор Кембриджського університету який вивчає проблеми соціальних мереж, сказав Lifewire в інтерв'ю електронною поштою.

«Вони в основному втратять хороших і цінних користувачів у довгостроковій перспективі».

Атаки нестримні

Спорт нещодавно став причиною атак у соціальних мережах. Після фіналу Євро-2020 розлючені вболівальники напали на футболістів Англії в Instagram після поразки команди. Інциденти, які включали расистські коментарі та смайли, показали безпорадність користувачів Instagram запобігти атакам на платформу. Модель Кріссі Тейген видалила свій акаунт у Twitter у березні після скарги на зловживання на платформі.

«Ми розробили цю функцію, тому що творці та публічні діячі іноді відчувають раптові сплески коментарів і запитів у DM від людей, яких вони не знають», – керівник Instagram Адам Моссері. написав у дописі в блозі.

Нова функція «Ліміти» Instagram призначена для запобігання зловживанням, дозволяючи користувачам вибирати, хто може взаємодіяти з ними під час напруженості. Користувачі можуть увімкнути обмеження для облікових записів, які не підписалися на них, і тих, що належать недавнім підписникам. Коли ліміти ввімкнено, ці облікові записи не можуть залишати коментарі чи надсилати запити DM протягом певного періоду.

Інша функція Instagram під назвою Hidden Words, призначена для захисту користувачів від небажаних запитів DM, також розширюється. Приховані слова автоматично фільтрує запити, які містять образливі слова, фрази та емодзі. Фільтр поміщає речі, які ви не хочете бачити, у приховану папку, де ви можете вирішити, чи хочете ви їх бачити. Він також відфільтровує запити, які, ймовірно, є спамом або мають низьку якість.

Instagram оновив свою базу даних Hidden Words новими типами образливих виразів, включаючи рядки емодзі, і включив їх у фільтр, сказав Моссері. Функція була запущена в деяких країнах і буде доступна в усьому світі до кінця місяця.

Twitter розглядає способи запобігання зловживанням

Інші платформи соціальних мереж також розглядають заходи проти зловживання.

Twitter проводить розслідування способи допомогти користувачам уникнути небажаної уваги. Система сповіщень компанії сповіщає користувача, коли його безпосередньо позначили в твіті. Ця функція корисна, якщо твіт цікавий. Але образливий вміст може призвести до кібербулінгу.

Компанія повідомила, що розглядає різні способи запобігання зловживанням, зокрема дозволити користувачам «незгадувати» про себе. Ця можливість дозволить користувачам видаляти своє ім’я з чужого твіту, щоб їх більше не позначали в ньому, а небажані коментарі не з’являлися в їхній стрічці.

Зловживання в мережі поширене. Недавнє дослідження Pew Research Center виявили, що 41% американців особисто зазнали певної форми переслідування в Інтернеті. Коли їх попросили оцінити, наскільки добре ці компанії борються з переслідуванням або залякуванням в Інтернеті на своїх платформах, лише 18% відповіли, що компанії соціальних мереж справляються відмінно або добре.

Рулет сказав, що зловживання в соціальних мережах важко вирішити. Перші точки контакту – це користувачі, які зловживають, які можуть повідомити про образливі повідомлення. Якщо про користувача повідомляють кілька разів, IP-адреса може бути забанена.

«Важливо, оскільки компанії соціальних мереж накопичують дані про повідомлення про повідомлення, вони можуть автоматизувати та покращити виявлення образливих повідомлень за допомогою машинного навчання, з ризиком того, що вони іноді піддають цензурі прийнятний вміст», — Рулет додано.

Моссері сказав, що Instagram "інвестуватиме в організації, орієнтовані на расову справедливість і справедливість".

«Ми знаємо, що нам потрібно більше зробити, включаючи покращення наших систем для швидшого пошуку та видалення образливого вмісту та притягнення до відповідальності тих, хто його публікує», – написав Моссері.