Jak se společnosti sociálních médií snaží zastavit zneužívání

Společnosti sociálních médií se snaží zakročit proti přetrvávajícímu problému zneužívání na svých platformách.

Instagram nedávno uvedl že by to usnadnilo předcházení nechtěným komentářům a přímým zprávám na sociální síti pro sdílení fotografií a videí. Uživatelé nyní mohou automaticky odfiltrovat urážlivý obsah a skrýt komentáře a žádosti o přímé zprávy od konkrétních uživatelů.

„Pokud společnosti zabývající se sociálními médii nezakročí proti urážlivým zprávám, skončí pouze s urážlivými zprávami uživatelé se navzájem zneužívají a nikdo ve skutečnosti nebude konzumovat obsah sociálních médií v rozumné míře móda," Thomas Roulet, profesor na University of Cambridge kdo studuje problémy sociálních sítí, řekl Lifewire v e-mailovém rozhovoru.

"Z dlouhodobého hlediska v podstatě ztratí dobré a cenné uživatele."

Útoky jsou nekontrolovatelné

Sport byl v poslední době bodem útoků na sociálních sítích. Po finále Eura 2020 naštvaní fanoušci napadli anglické fotbalisty na Instagramu po porážce týmu. Incidenty, které zahrnovaly rasistické komentáře a emotikony, upozornily na bezmoc uživatelů Instagramu zabránit útokům na platformu. Modelka Chrissy Teigen smazala svůj Twitter účet v březnu poté, co si stěžovala na zneužívání na platformě.

„Tuto funkci jsme vyvinuli, protože tvůrci a veřejné osobnosti někdy zaznamenají náhlý nárůst komentářů a žádostí o DM od lidí, které neznají,“ šéf Instagramu Adam Mosseri. napsal v příspěvku na blogu.

Nová funkce Instagramu Limits má pomoci zabránit zneužívání tím, že uživatelům umožňuje vybrat si, kdo s nimi může v rušných časech komunikovat. Uživatelé mohou zapnout omezení pro účty, které je nesledují, a pro účty, které patří k nedávným sledujícím. Když jsou povoleny limity, tyto účty nemohou po zadané období posílat komentáře ani posílat požadavky DM.

Další funkce Instagramu s názvem Skrytá slova, která má chránit uživatele před nechtěnými požadavky DM, se také rozšiřuje. Skrytá slova automaticky filtruje požadavky, které obsahují urážlivá slova, fráze a emotikony. Filtr umístí věci, které nechcete vidět, do skryté složky, kde se můžete rozhodnout, zda je chcete vidět. Filtruje také požadavky, které jsou pravděpodobně spam nebo jsou jinak nekvalitní.

Instagram aktualizoval svou databázi Skrytá slova o nové typy urážlivého jazyka, včetně řetězců emotikonů, a zahrnul je do filtru, řekl Mosseri. Tato funkce byla spuštěna ve vybraných zemích a bude celosvětově dostupná do konce měsíce.

Twitter zvažuje způsoby, jak zabránit zneužívání

Opatření proti zneužívání zvažují i ​​další platformy sociálních médií.

Twitter vyšetřuje způsoby, jak pomoci uživatelům předcházet nežádoucí pozornosti. Oznamovací systém společnosti upozorní uživatele, když byl přímo označen v tweetu. Tato funkce je užitečná, pokud je tweet zajímavý. Urážlivý obsah však může vést ke kyberšikaně.

Společnost uvedla, že zvažuje různé způsoby, jak zabránit zneužívání, včetně toho, že umožní uživatelům „nezmínit se“. Tato možnost by uživatelům umožnila odstranit své jméno z jiného tweetu, aby v něm již nebyli označeni a zabránila by tomu, aby se v jejich zdroji objevovaly nežádoucí komentáře.

Online zneužívání je běžné. Nedávný průzkum Pew Research Center zjistili, že 41 % Američanů osobně zažilo nějakou formu online obtěžování. Když byli požádáni, aby ohodnotili, jak dobře tyto společnosti řeší online obtěžování nebo šikanu na svých platformách, pouze 18 % uvedlo, že společnosti sociálních médií odvádějí vynikající nebo dobrou práci.

Roulet řekl, že zneužívání na sociálních sítích je obtížně řešitelný problém. Prvními kontaktními místy jsou zneužití uživatelé, kteří mohou nahlásit urážlivé zprávy. Jakmile je uživatel nahlášen vícekrát, IP adresa může být zakázána.

„Důležité je, že jak společnosti sociálních médií shromažďují data o hlášených zprávách, mohou být schopny automatizovat a vylepšit detekce urážlivých zpráv pomocí strojového učení s rizikem, že někdy cenzurují přijatelný obsah,“ Roulet přidal.

Mosseri řekl, že Instagram bude „investovat do organizací zaměřených na rasovou spravedlnost a spravedlnost“.

"Víme, že je třeba udělat víc, včetně vylepšení našich systémů, abychom rychleji našli a odstranili urážlivý obsah a pohnali ty, kdo jej zveřejňují, k odpovědnosti," napsal Mosseri.