Hvordan sosiale medieselskaper prøver å stoppe misbruk

Sosiale medieselskaper prøver å slå ned på det vedvarende problemet med misbruk på plattformene deres.

Instagram sa nylig at det ville gjøre det lettere å forhindre uønskede kommentarer og direktemeldinger på den sosiale nettverkstjenesten for bilde- og videodeling. Brukere kan nå automatisk filtrere bort støtende innhold og skjule kommentarer og direkte meldingsforespørsler fra spesifikke brukere.

«Hvis sosiale medieselskaper ikke slår ned på støtende meldinger, vil de bare ende opp med støtende brukere misbruker hverandre, og ingen faktisk vil konsumere innhold på sosiale medier på en rimelig måte mote," Thomas Roulet, professor ved University of Cambridge som studerer sosiale medier-problemer, fortalte Lifewire i et e-postintervju.

«De vil i utgangspunktet miste de gode og verdifulle brukerne på sikt».

Angrep er utbredt

Sport har nylig vært et brennpunkt for angrep på sosiale medier. Etter EM 2020-finalen angrep sinte fans engelske fotballspillere på Instagram etter lagets nederlag. Hendelsene, som inkluderte rasistiske kommentarer og emoji, satte søkelyset på hjelpeløsheten til Instagram-brukere til å forhindre angrep på plattformen. Modellen Chrissy Teigen slettet Twitter-kontoen sin i mars etter å ha klaget over overgrep på plattformen.

"Vi utviklet denne funksjonen fordi skapere og offentlige personer noen ganger opplever plutselige stigninger av kommentarer og DM-forespørsler fra folk de ikke kjenner," leder for Instagram Adam Mosseri skrev i et blogginnlegg.

Instagrams nye Limits-funksjon er ment å bidra til å forhindre misbruk ved å la brukere velge hvem som kan samhandle med dem i travle tider. Brukere kan slå på begrensninger for kontoer som ikke følger dem og de som tilhører nylige følgere. Når Grenser er aktivert, kan ikke disse kontoene legge inn kommentarer eller sende DM-forespørsler i en spesifisert periode.

En annen Instagram-funksjon kalt Hidden Words, designet for å beskytte brukere mot uønskede DM-forespørsler, utvides også. Skjulte ord filtrerer automatisk forespørsler som inneholder støtende ord, setninger og emojier. Filteret legger ting du ikke vil se i en skjult mappe, der du kan bestemme om du vil se dem. Den filtrerer også ut forespørsler som sannsynligvis er spam eller på annen måte er av lav kvalitet.

Instagram har oppdatert Hidden Words-databasen med nye typer støtende språk, inkludert strenger av emoji, og inkludert dem i filteret, sa Mosseri. Funksjonen har blitt lansert i utvalgte land og vil være tilgjengelig over hele verden innen slutten av måneden.

Twitter vurderer måter å forhindre misbruk på

Andre sosiale medieplattformer vurderer også tiltak mot misbruk.

Twitter etterforsker saken måter å hjelpe brukere med å forhindre uønsket oppmerksomhet. Selskapets varslingssystem varsler en bruker når de har blitt direkte merket i en tweet. Funksjonen er nyttig hvis tweeten er interessant. Men krenkende innhold kan føre til nettmobbing.

Selskapet har sagt at det vurderer ulike måter å forhindre misbruk på, inkludert å la brukere «unomtale» seg selv. Denne muligheten vil tillate brukere å fjerne navnet sitt fra en annens tweet slik at de ikke lenger er merket i den, og vil forhindre at uønskede kommentarer vises i feeden deres.

Nettmisbruk er vanlig. En fersk Pew Research Center-undersøkelse fant at 41 % av amerikanerne personlig har opplevd en eller annen form for trakassering på nettet. Da de ble bedt om å vurdere hvor godt disse selskapene takler trakassering eller mobbing på nettet på plattformene sine, sa bare 18 % at sosiale medieselskaper gjør en utmerket eller god jobb.

Roulet sa at misbruk på sosiale medier er et vanskelig problem å fikse. De første kontaktpunktene er de misbrukte brukerne som kan rapportere fornærmende meldinger. Når en bruker er rapportert flere ganger, kan IP-adressen bli utestengt.

"Viktig, ettersom sosiale medieselskaper samler data om rapporterte meldinger, kan de kanskje automatisere og forbedre oppdagelse av støtende meldinger ved hjelp av maskinlæring, med risiko for at de noen ganger sensurerer akseptabelt innhold," Roulet la til.

Mosseri sa at Instagram ville "investere i organisasjoner fokusert på rasemessig rettferdighet og rettferdighet."

"Vi vet at det er mer å gjøre, inkludert å forbedre systemene våre for å finne og fjerne støtende innhold raskere og holde de som legger det ut ansvarlig," skrev Mosseri.