Comment les entreprises de médias sociaux essaient de mettre fin aux abus

Les sociétés de médias sociaux tentent de sévir contre le problème persistant des abus sur leurs plateformes.

Instagram a dit récemment qu'il serait plus facile d'empêcher les commentaires indésirables et les messages directs sur le service de réseau social de partage de photos et de vidéos. Les utilisateurs peuvent désormais filtrer automatiquement le contenu offensant et masquer les commentaires et les demandes de messages directs d'utilisateurs spécifiques.

« Si les entreprises de médias sociaux ne répriment pas les messages abusifs, elles ne se retrouveront qu'avec des messages abusifs. les utilisateurs abusent les uns des autres, et personne ne consommera réellement le contenu des médias sociaux dans un délai raisonnable mode,"

Thomas Roulet, professeur à l'Université de Cambridge qui étudie les problèmes de médias sociaux, a déclaré Lifewire dans une interview par e-mail.

"Ils perdront essentiellement les bons et précieux utilisateurs à plus long terme."

Les attaques se multiplient

Le sport a été récemment un point d'éclair pour les attaques sur les réseaux sociaux. Après la finale de l'Euro 2020, des supporters en colère ont attaqué des footballeurs anglais sur Instagram après la défaite de l'équipe. Les incidents, qui comprenaient des commentaires racistes et des emoji, ont mis en lumière l'impuissance des utilisateurs d'Instagram à empêcher les attaques sur la plateforme. Le mannequin Chrissy Teigen a supprimé son compte Twitter en mars après s'être plaint d'abus sur la plateforme.

"Nous avons développé cette fonctionnalité parce que les créateurs et les personnalités publiques subissent parfois des pics soudains de commentaires et de demandes de DM de personnes qu'ils ne connaissent pas", a déclaré Adam Mosseri, responsable d'Instagram. écrit dans un article de blog.

La nouvelle fonctionnalité Limites d'Instagram est destinée à aider à prévenir les abus en permettant aux utilisateurs de choisir qui peut interagir avec eux pendant les périodes de pointe. Les utilisateurs peuvent activer des restrictions pour les comptes qui ne les suivent pas et ceux appartenant à des abonnés récents. Lorsque les limites sont activées, ces comptes ne peuvent pas publier de commentaires ni envoyer de demandes DM pendant une période spécifiée.

Une autre fonctionnalité Instagram appelée Mots cachés, conçue pour protéger les utilisateurs contre les demandes DM indésirables, est également en cours d'extension. Mots cachés filtre automatiquement les demandes contenant des mots, des phrases et des emojis offensants. Le filtre place les choses que vous ne voulez pas voir dans un dossier caché, où vous pouvez décider si vous voulez les voir. Il filtre également les demandes susceptibles d'être du spam ou de mauvaise qualité.

Instagram a mis à jour sa base de données de mots cachés avec de nouveaux types de langage offensant, y compris des chaînes d'emoji, et les a inclus dans le filtre, a déclaré Mosseri. La fonctionnalité a été lancée dans certains pays et sera disponible dans le monde entier d'ici la fin du mois.

Twitter envisage des moyens de prévenir les abus

D'autres plateformes de médias sociaux envisagent également des mesures anti-abus.

Twitter enquête des moyens d'aider les utilisateurs à éviter toute attention indésirable. Le système de notification de l'entreprise alerte un utilisateur lorsqu'il a été directement identifié dans un tweet. La fonctionnalité est utile si le tweet est intéressant. Mais le contenu abusif peut conduire à la cyberintimidation.

La société a déclaré qu'elle envisageait diverses manières de prévenir les abus, notamment en permettant aux utilisateurs de se "ne pas mentionner". Cette capacité permettrait aux utilisateurs de supprimer leur nom du tweet d'un autre afin qu'ils n'y soient plus étiquetés et empêcherait les commentaires indésirables d'apparaître dans leur flux.

Les abus en ligne sont courants. Un récent sondage du Pew Research Center ont constaté que 41% des Américains ont personnellement subi une forme de harcèlement en ligne. Lorsqu'on leur a demandé d'évaluer dans quelle mesure ces entreprises luttaient contre le harcèlement ou l'intimidation en ligne sur leurs plateformes, seulement 18% ont déclaré que les entreprises de médias sociaux faisaient un excellent ou un bon travail.

Roulet a déclaré que les abus sur les réseaux sociaux sont un problème difficile à résoudre. Les premiers points de contact sont les utilisateurs abusés qui peuvent signaler des messages abusifs. Une fois qu'un utilisateur est signalé plusieurs fois, l'adresse IP peut être bannie.

« Il est important de noter que, au fur et à mesure que les sociétés de médias sociaux accumulent des données sur les messages signalés, elles pourraient être en mesure d'automatiser et d'améliorer la détection de messages offensants grâce au machine learning, avec le risque qu'ils censurent parfois des contenus acceptables", Roulet ajoutée.

Mosseri a déclaré qu'Instagram "investirait dans des organisations axées sur la justice et l'équité raciales".

"Nous savons qu'il y a plus à faire, y compris améliorer nos systèmes pour trouver et supprimer plus rapidement les contenus abusifs et responsabiliser ceux qui les publient", a écrit Mosseri.