Как компании социальных сетей пытаются остановить злоупотребления

Компании, работающие в социальных сетях, пытаются решить продолжающуюся проблему злоупотреблений на своих платформах.

Instagram сказал недавно что это упростит предотвращение нежелательных комментариев и прямых сообщений в социальных сетях для обмена фотографиями и видео. Теперь пользователи могут автоматически отфильтровывать оскорбительный контент и скрывать комментарии и прямые запросы сообщений от определенных пользователей.

"Если компании, работающие в социальных сетях, не будут бороться с оскорбительными сообщениями, они закончатся только оскорбительными пользователи злоупотребляют друг другом, и никто на самом деле не будет потреблять контент социальных сетей в разумных пределах мода,"

Томас Руле, профессор Кембриджского университета Кто изучает проблемы социальных сетей, сказал Lifewire в интервью по электронной почте.

«Они в основном потеряют хороших и ценных пользователей в долгосрочной перспективе».

Атаки безудержны

В последнее время спорт стал горячей точкой для атак в социальных сетях. После финала Евро-2020 разгневанные фанаты атаковали футболистов сборной Англии в Instagram после поражения команды. Инциденты, которые включали расистские комментарии и смайлики, высветили беспомощность пользователей Instagram в предотвращении атак на платформу. Модель Крисси Тейген удалила свой аккаунт в Твиттере в марте после того, как пожаловалась на злоупотребления на платформе.

«Мы разработали эту функцию, потому что создатели и общественные деятели иногда сталкиваются с внезапным всплеском комментариев и запросов в DM от людей, которых они не знают», - глава Instagram Адам Моссери. написал в сообщении в блоге.

Новая функция ограничений Instagram предназначена для предотвращения злоупотреблений, позволяя пользователям выбирать, кто может взаимодействовать с ними в часы пик. Пользователи могут включить ограничения для учетных записей, которые не следят за ними, и тех, которые принадлежат недавним подписчикам. Когда включены ограничения, эти аккаунты не могут публиковать комментарии или отправлять запросы DM в течение определенного периода.

Еще одна функция Instagram под названием «Скрытые слова», предназначенная для защиты пользователей от нежелательных DM-запросов, также расширяется. Скрытые слова автоматически фильтруют запросы, содержащие оскорбительные слова, фразы и смайлики. Фильтр помещает вещи, которые вы не хотите видеть, в скрытую папку, где вы можете решить, хотите ли вы их видеть. Он также отфильтровывает запросы, которые, скорее всего, являются спамом или имеют низкое качество по иным причинам.

По словам Моссери, Instagram обновил свою базу данных Hidden Words новыми типами оскорбительных выражений, включая строки смайликов, и включил их в фильтр. Эта функция была запущена в некоторых странах и будет доступна по всему миру к концу месяца.

Twitter рассматривает способы предотвращения злоупотреблений

Другие платформы социальных сетей также рассматривают меры по борьбе со злоупотреблениями.

Twitter расследует способы помочь пользователям предотвратить нежелательное внимание. Система уведомлений компании предупреждает пользователя, когда он напрямую отмечен в твите. Эта функция полезна, если твит интересен. Но оскорбительный контент может привести к киберзапугиванию.

Компания заявила, что рассматривает различные способы предотвращения злоупотреблений, в том числе позволяя пользователям «не упоминать» себя. Эта возможность позволит пользователям удалить свое имя из чужого твита, чтобы они больше не были отмечены в нем, и чтобы нежелательные комментарии не появлялись в их ленте.

Злоупотребления в Интернете - обычное дело. Недавний опрос Pew Research Center обнаружили, что 41% американцев лично испытали какую-либо форму домогательств в Интернете. Когда их попросили оценить, насколько хорошо эти компании борются с онлайн-домогательствами или издевательствами на своих платформах, только 18% ответили, что компании, работающие в социальных сетях, выполняют свою работу отлично или хорошо.

По словам Руле, оскорбления в социальных сетях - это сложная проблема. В первую очередь обращаются к пострадавшим пользователям, которые могут сообщить о оскорбительных сообщениях. Если о пользователе сообщают несколько раз, IP-адрес может быть заблокирован.

"Важно отметить, что по мере того, как компании, работающие в социальных сетях, накапливают данные о сообщаемых сообщениях, они могут автоматизировать и улучшить обнаружение оскорбительных сообщений с помощью машинного обучения с риском того, что они иногда подвергают цензуре приемлемый контент ", Roulet добавлен.

Моссери сказал, что Instagram будет «инвестировать в организации, ориентированные на расовую справедливость и равенство».

«Мы знаем, что нам предстоит еще многое сделать, в том числе улучшить наши системы для более быстрого поиска и удаления оскорбительного содержания и привлечь к ответственности тех, кто его публикует», - написал Моссери.