Como as empresas de mídia social estão tentando impedir o abuso

As empresas de mídia social estão tentando reprimir o problema contínuo de abuso em suas plataformas.

Instagram disse recentemente que tornaria mais fácil evitar comentários indesejados e mensagens diretas no serviço de rede social de compartilhamento de fotos e vídeos. Os usuários agora podem filtrar automaticamente o conteúdo ofensivo e ocultar comentários e solicitações de mensagens diretas de usuários específicos.

"Se as empresas de mídia social não reprimirem as mensagens abusivas, elas acabarão apenas com mensagens abusivas usuários abusando uns dos outros, e ninguém realmente consumirá conteúdo de mídia social de uma forma razoável moda," Thomas Roulet, professor da Universidade de Cambridge

que estuda problemas de mídia social, disse a Lifewire em uma entrevista por e-mail.

"Eles basicamente perderão os usuários bons e valiosos no longo prazo."

Ataques são galopantes

Os esportes têm sido um ponto de inflamação recente para os ataques às redes sociais. Após a final do Euro 2020, fãs furiosos atacaram os jogadores de futebol da Inglaterra no Instagram após a derrota do time. Os incidentes, que incluíram comentários racistas e emoji, destacaram a impotência dos usuários do Instagram para evitar ataques à plataforma. A modelo Chrissy Teigen excluiu sua conta no Twitter em março, após reclamar de abuso na plataforma.

"Desenvolvemos esse recurso porque criadores e figuras públicas às vezes experimentam picos repentinos de comentários e solicitações de DM de pessoas que eles não conhecem", chefe do Instagram Adam Mosseri escreveu em uma postagem de blog.

O novo recurso Limits do Instagram tem como objetivo ajudar a prevenir abusos, permitindo que os usuários escolham quem pode interagir com eles durante os horários de pico. Os usuários podem ativar as restrições para contas que não os seguem e para contas pertencentes a seguidores recentes. Quando os limites estão ativados, essas contas não podem postar comentários ou enviar solicitações de DM por um período específico.

Outro recurso do Instagram chamado Hidden Words, projetado para proteger os usuários de solicitações de DM indesejadas, também está sendo expandido. As palavras ocultas filtram automaticamente as solicitações que contêm palavras, frases e emojis ofensivos. O filtro coloca as coisas que você não deseja ver em uma pasta oculta, onde você pode decidir se deseja vê-las. Ele também filtra solicitações que provavelmente são spam ou de baixa qualidade.

O Instagram atualizou seu banco de dados de palavras ocultas com novos tipos de linguagem ofensiva, incluindo sequências de emojis, e os incluiu no filtro, disse Mosseri. O recurso foi lançado em alguns países e estará disponível em todo o mundo até o final do mês.

Twitter considera maneiras de prevenir abusos

Outras plataformas de mídia social também estão considerando medidas anti-abuso.

Twitter está investigando maneiras de ajudar os usuários a evitar atenção indesejada. O sistema de notificação da empresa alerta um usuário quando ele é marcado diretamente em um tweet. O recurso é útil se o tweet for interessante. Mas o conteúdo abusivo pode levar ao cyberbullying.

A empresa disse que está considerando várias maneiras de prevenir o abuso, incluindo permitir que os próprios usuários "não mencionem". Essa capacidade permitiria aos usuários remover seu nome do tweet de outra pessoa, de forma que não fossem mais marcados nele e evitaria que comentários indesejados aparecessem em seu feed.

O abuso online é comum. Uma pesquisa recente do Pew Research Center descobriram que 41% dos americanos experimentaram pessoalmente alguma forma de assédio online. Quando solicitados a avaliar o quão bem essas empresas lidam com o assédio ou bullying online em suas plataformas, apenas 18% disseram que as empresas de mídia social estão fazendo um trabalho excelente ou bom.

Roulet disse que o abuso nas redes sociais é um problema difícil de resolver. Os primeiros pontos de contato são os usuários abusados ​​que podem denunciar mensagens abusivas. Depois que um usuário é relatado várias vezes, o endereço IP pode ser banido.

"É importante ressaltar que, à medida que as empresas de mídia social acumulam dados sobre as mensagens relatadas, elas podem automatizar e melhorar o detecção de mensagens ofensivas usando aprendizado de máquina, com o risco de que às vezes censurem conteúdo aceitável, "Roulet adicionado.

Mosseri disse que o Instagram "investirá em organizações focadas na justiça e equidade racial".

"Sabemos que há mais a fazer, incluindo melhorar nossos sistemas para encontrar e remover conteúdo abusivo mais rapidamente e responsabilizar aqueles que os publicam", escreveu Mosseri.