Hur sociala medieföretag försöker stoppa missbruk

Sociala medieföretag försöker slå ner på det fortsatta problemet med missbruk på sina plattformar.

Instagram sa nyligen att det skulle göra det lättare att förhindra oönskade kommentarer och direktmeddelanden på den sociala nätverkstjänsten för foto- och videodelning. Användare kan nu automatiskt filtrera bort stötande innehåll och dölja kommentarer och direktmeddelandeförfrågningar från specifika användare.

"Om sociala medieföretag inte slår ner på kränkande meddelanden kommer de bara att sluta med kränkande användare missbrukar varandra, och ingen faktiskt kommer att konsumera innehåll på sociala medier på ett rimligt sätt mode," Thomas Roulet, professor vid University of Cambridge som studerar problem med sociala medier, sa till Lifewire i en e-postintervju.

"De kommer i princip att förlora de bra och värdefulla användarna på längre sikt."

Attacker är utbredda

Sport har nyligen varit en flampunkt för attacker på sociala medier. Efter EM 2020-finalen attackerade arga fans engelska fotbollsspelare på Instagram efter lagets nederlag. Incidenterna, som inkluderade rasistiska kommentarer och emoji, lyfte fram Instagram-användarnas hjälplöshet att förhindra attacker på plattformen. Modellen Chrissy Teigen raderade sitt Twitter-konto i mars efter att ha klagat på övergrepp på plattformen.

"Vi utvecklade den här funktionen eftersom kreatörer och offentliga personer ibland upplever plötsliga toppar av kommentarer och DM-förfrågningar från personer de inte känner," chefen för Instagram Adam Mosseri skrev i ett blogginlägg.

Instagrams nya Limits-funktion är tänkt att hjälpa till att förhindra missbruk genom att låta användare välja vem som kan interagera med dem under hektiska tider. Användare kan aktivera begränsningar för konton som inte följer dem och de som tillhör de senaste följare. När gränser är aktiverade kan dessa konton inte skicka kommentarer eller skicka DM-förfrågningar under en viss period.

En annan Instagram-funktion som heter Hidden Words, designad för att skydda användare från oönskade DM-förfrågningar, utökas också. Dolda ord filtrerar automatiskt förfrågningar som innehåller stötande ord, fraser och emojis. Filtret placerar saker du inte vill se i en dold mapp, där du kan bestämma om du vill se dem. Det filtrerar också bort förfrågningar som sannolikt är spam eller på annat sätt är av låg kvalitet.

Instagram har uppdaterat sin Hidden Words-databas med nya typer av stötande språk, inklusive strängar av emoji, och inkluderat dem i filtret, sa Mosseri. Funktionen har lanserats i utvalda länder och kommer att vara tillgänglig över hela världen i slutet av månaden.

Twitter överväger sätt att förhindra missbruk

Andra sociala medieplattformar överväger också åtgärder mot missbruk.

Twitter undersöker sätt att hjälpa användare att förhindra oönskad uppmärksamhet. Företagets aviseringssystem varnar en användare när de har blivit direkt taggade i en tweet. Funktionen är användbar om tweeten är intressant. Men kränkande innehåll kan leda till nätmobbning.

Företaget har sagt att det överväger olika sätt att förhindra missbruk, inklusive att låta användare "avnämna" sig själva. Denna förmåga skulle tillåta användare att ta bort sitt namn från en annans tweet så att de inte längre är taggade i den och skulle förhindra att oönskade kommentarer dyker upp i deras flöde.

Övergrepp på nätet är vanligt. En ny undersökning från Pew Research Center fann att 41 % av amerikanerna personligen har upplevt någon form av trakasserier online. När de ombads betygsätta hur väl dessa företag hanterar trakasserier eller mobbning online på sina plattformar, sa bara 18 % att sociala medieföretag gör ett utmärkt eller bra jobb.

Roulet sa att övergrepp på sociala medier är ett svårt problem att åtgärda. De första kontaktpunkterna är de missbrukade användarna som kan rapportera kränkande meddelanden. När en användare har rapporterats flera gånger kan IP-adressen förbjudas.

"Det är viktigt att när sociala medieföretag samlar data om rapporterade meddelanden kan de kanske automatisera och förbättra upptäckt av stötande meddelanden med hjälp av maskininlärning, med risken att de ibland censurerar acceptabelt innehåll", Roulet Lagt till.

Mosseri sa att Instagram skulle "investera i organisationer fokuserade på rasrättvisa och rättvisa."

"Vi vet att det finns mer att göra, inklusive att förbättra våra system för att hitta och ta bort kränkande innehåll snabbare och hålla de som lägger upp det ansvariga", skrev Mosseri.