Come le aziende di social media stanno cercando di fermare gli abusi

Le società di social media stanno cercando di reprimere il continuo problema degli abusi sulle loro piattaforme.

Instagram ha detto di recente che renderebbe più facile prevenire commenti indesiderati e messaggi diretti sul servizio di social network di condivisione di foto e video. Gli utenti possono ora filtrare automaticamente i contenuti offensivi e nascondere commenti e richieste di messaggi diretti da utenti specifici.

"Se le società di social media non reprimono la messaggistica offensiva, finiranno solo con l'abuso gli utenti si abusano a vicenda e nessuno effettivamente consumerà i contenuti dei social media in modo ragionevole moda," Thomas Roulet, professore all'Università di Cambridge che studia i problemi dei social media, ha detto a Lifewire in un'intervista via e-mail.

"Fondamentalmente perderanno gli utenti validi e di valore nel lungo periodo".

Gli attacchi sono dilaganti

Lo sport è stato un recente focolaio di attacchi sui social media. Dopo la finale di Euro 2020, i fan arrabbiati hanno attaccato i calciatori inglesi su Instagram dopo la sconfitta della squadra. Gli incidenti, che includevano commenti razzisti ed emoji, hanno messo in luce l'impotenza degli utenti di Instagram nel prevenire attacchi alla piattaforma. La modella Chrissy Teigen ha cancellato il suo account Twitter a marzo dopo aver lamentato abusi sulla piattaforma.

"Abbiamo sviluppato questa funzione perché i creatori e i personaggi pubblici a volte subiscono picchi improvvisi di commenti e richieste DM da persone che non conoscono", il capo di Instagram Adam Mosseri scritto in un post sul blog.

La nuova funzione Limiti di Instagram ha lo scopo di aiutare a prevenire gli abusi consentendo agli utenti di scegliere chi può interagire con loro durante i periodi di punta. Gli utenti possono attivare le restrizioni per gli account che non li seguono e quelli appartenenti a follower recenti. Quando i limiti sono abilitati, questi account non possono pubblicare commenti o inviare richieste DM per un periodo specificato.

Anche un'altra funzione di Instagram chiamata Hidden Words, progettata per proteggere gli utenti da richieste DM indesiderate, è in fase di espansione. Parole nascoste filtra automaticamente le richieste che contengono parole, frasi ed emoji offensive. Il filtro mette le cose che non vuoi vedere in una cartella nascosta, dove puoi decidere se vuoi vederle. Filtra anche le richieste che sono probabilmente spam o sono altrimenti di bassa qualità.

Instagram ha aggiornato il suo database di parole nascoste con nuovi tipi di linguaggio offensivo, incluse stringhe di emoji, e le ha incluse nel filtro, ha detto Mosseri. La funzione è stata lanciata in alcuni paesi e sarà disponibile in tutto il mondo entro la fine del mese.

Twitter considera i modi per prevenire gli abusi

Anche altre piattaforme di social media stanno prendendo in considerazione misure anti-abuso.

Twitter sta indagando modi per aiutare gli utenti a prevenire attenzioni indesiderate. Il sistema di notifica dell'azienda avvisa un utente quando è stato taggato direttamente in un tweet. La funzione è utile se il tweet è interessante. Ma i contenuti offensivi possono portare al cyberbullismo.

La società ha affermato che sta valutando vari modi per prevenire gli abusi, incluso consentire agli utenti di "non menzionare" se stessi. Questa capacità consentirebbe agli utenti di rimuovere il proprio nome dal tweet di un altro in modo che non vengano più taggati e impediscano la visualizzazione di commenti indesiderati nel proprio feed.

Gli abusi online sono comuni. Un recente sondaggio del Pew Research Center ha scoperto che il 41% degli americani ha subito personalmente una qualche forma di molestia online. Quando è stato chiesto di valutare quanto bene queste aziende affrontano le molestie online o il bullismo sulle loro piattaforme, solo il 18% ha affermato che le società di social media stanno facendo un lavoro eccellente o buono.

Roulet ha affermato che gli abusi sui social media sono un problema difficile da risolvere. I primi punti di contatto sono gli utenti abusati che possono segnalare messaggi offensivi. Una volta che un utente viene segnalato più volte, l'indirizzo IP può essere bannato.

"È importante sottolineare che, poiché le società di social media accumulano dati sui messaggi segnalati, potrebbero essere in grado di automatizzare e migliorare il rilevamento di messaggi offensivi utilizzando l'apprendimento automatico, con il rischio che a volte censurino i contenuti accettabili", Roulet aggiunto.

Mosseri ha affermato che Instagram "investirà in organizzazioni focalizzate sulla giustizia e l'equità razziale".

"Sappiamo che c'è ancora molto da fare, incluso il miglioramento dei nostri sistemi per trovare e rimuovere più rapidamente i contenuti offensivi e responsabilizzare coloro che li pubblicano", ha scritto Mosseri.