Hoe sociale-mediabedrijven misbruik proberen te stoppen

Socialmediabedrijven proberen het aanhoudende probleem van misbruik op hun platforms aan te pakken.

Instagram zei onlangs dat het gemakkelijker zou worden om ongewenste opmerkingen en directe berichten op de sociale netwerkdienst voor het delen van foto's en video's te voorkomen. Gebruikers kunnen nu automatisch aanstootgevende inhoud uitfilteren en opmerkingen en directe berichtverzoeken van specifieke gebruikers verbergen.

"Als sociale-mediabedrijven niet hard optreden tegen beledigende berichten, zullen ze alleen eindigen met beledigend gebruikers die elkaar misbruiken, en niemand zal daadwerkelijk social media-inhoud consumeren in een redelijke mode," Thomas Roulet, een professor aan de Universiteit van Cambridge

die problemen met sociale media bestudeert, vertelde Lifewire in een e-mailinterview.

"Ze zullen in principe de goede en waardevolle gebruikers op de langere termijn verliezen."

Aanvallen zijn ongebreideld

Sport is een recent vlampunt geweest voor aanvallen op sociale media. Na de finale van Euro 2020 vielen boze fans Engelse voetballers aan op Instagram na de nederlaag van het team. De incidenten, waaronder racistische opmerkingen en emoji, benadrukten de hulpeloosheid van Instagram-gebruikers om aanvallen op het platform te voorkomen. Model Chrissy Teigen heeft in maart haar Twitter-account verwijderd nadat ze had geklaagd over misbruik op het platform.

"We hebben deze functie ontwikkeld omdat makers en publieke figuren soms plotselinge pieken in reacties en DM-verzoeken krijgen van mensen die ze niet kennen", hoofd van Instagram Adam Mosseri schreef in een blogpost.

De nieuwe Limits-functie van Instagram is bedoeld om misbruik te helpen voorkomen door gebruikers te laten kiezen wie met hen kan communiceren tijdens drukke tijden. Gebruikers kunnen beperkingen inschakelen voor accounts die hen niet volgen en voor accounts die behoren tot recente volgers. Wanneer limieten zijn ingeschakeld, kunnen deze accounts gedurende een bepaalde periode geen opmerkingen plaatsen of DM-verzoeken verzenden.

Een andere Instagram-functie genaamd Hidden Words, ontworpen om gebruikers te beschermen tegen ongewenste DM-verzoeken, wordt ook uitgebreid. Hidden Words filtert automatisch verzoeken die aanstootgevende woorden, zinsdelen en emoji's bevatten. Het filter plaatst dingen die u niet wilt zien in een verborgen map, waar u kunt beslissen of u ze wilt zien. Het filtert ook verzoeken uit die waarschijnlijk spam zijn of anderszins van lage kwaliteit zijn.

Instagram heeft zijn Hidden Words-database bijgewerkt met nieuwe soorten aanstootgevend taalgebruik, inclusief reeksen emoji, en deze in het filter opgenomen, zei Mosseri. De functie is gelanceerd in geselecteerde landen en zal tegen het einde van de maand wereldwijd beschikbaar zijn.

Twitter overweegt manieren om misbruik te voorkomen

Ook andere socialmediaplatforms overwegen antimisbruikmaatregelen.

Twitter doet onderzoek manieren om gebruikers te helpen ongewenste aandacht te voorkomen. Het meldingssysteem van het bedrijf waarschuwt een gebruiker wanneer deze rechtstreeks in een tweet is getagd. De functie is handig als de tweet interessant is. Maar beledigende inhoud kan leiden tot cyberpesten.

Het bedrijf heeft gezegd dat het verschillende manieren overweegt om misbruik te voorkomen, waaronder door gebruikers zichzelf te laten "unmenteren". Met deze mogelijkheid kunnen gebruikers hun naam uit de tweet van een ander verwijderen, zodat ze er niet langer in worden getagd en ongewenste opmerkingen niet in hun feed verschijnen.

Online misbruik komt veel voor. Een recent onderzoek van het Pew Research Center ontdekte dat 41% van de Amerikanen persoonlijk een of andere vorm van online intimidatie heeft ervaren. Op de vraag hoe goed deze bedrijven omgaan met online intimidatie of pesten op hun platforms, zei slechts 18% dat socialemediabedrijven uitstekend of goed werk leveren.

Roulet zei dat misbruik op sociale media een moeilijk op te lossen probleem is. De eerste aanspreekpunten zijn de misbruikte gebruikers die beledigende berichten kunnen melden. Zodra een gebruiker meerdere keren is gerapporteerd, kan het IP-adres worden verbannen.

"Belangrijk is dat, aangezien sociale-mediabedrijven gegevens verzamelen over gerapporteerde berichten, ze de berichten mogelijk kunnen automatiseren en verbeteren detectie van aanstootgevende berichten met behulp van machine learning, met het risico dat ze soms acceptabele inhoud censureren," Roulet toegevoegd.

Mosseri zei dat Instagram zou "investeren in organisaties die gericht zijn op raciale rechtvaardigheid en gelijkheid."

"We weten dat er meer te doen is, waaronder het verbeteren van onze systemen om beledigende inhoud sneller te vinden en te verwijderen en om degenen die het plaatsen verantwoordelijk te houden", schreef Mosseri.