Ako sa spoločnosti sociálnych médií snažia zastaviť zneužívanie

Spoločnosti sociálnych médií sa snažia zakročiť proti pretrvávajúcemu problému zneužívania na svojich platformách.

Informoval o tom nedávno Instagram že by to uľahčilo predchádzanie nechceným komentárom a priamym správam na sociálnej sieti na zdieľanie fotografií a videí. Používatelia môžu teraz automaticky filtrovať urážlivý obsah a skryť komentáre a žiadosti o priame správy od konkrétnych používateľov.

„Ak spoločnosti sociálnych médií nezasiahnu proti zneužívaniu správ, skončia iba urážlivým správaním používatelia sa navzájom zneužívajú a nikto v skutočnosti nebude primerane konzumovať obsah sociálnych médií móda," Thomas Roulet, profesor na univerzite v Cambridge ktorý študuje problémy sociálnych médií, povedal Lifewire v e-mailovom rozhovore.

"Z dlhodobého hľadiska v podstate stratia dobrých a cenných používateľov."

Útoky sú na vzostupe

Šport bol nedávnym bodom útokov na sociálne siete. Po finále Euro 2020 nahnevaní fanúšikovia napadli anglických futbalistov na Instagrame po porážke tímu. Incidenty, ktoré zahŕňali rasistické komentáre a emotikony, poukázali na bezmocnosť používateľov Instagramu zabrániť útokom na platformu. Modelka Chrissy Teigen vymazala svoj účet na Twitteri v marci po tom, čo sa sťažovala na zneužívanie na platforme.

„Túto funkciu sme vyvinuli, pretože tvorcovia a verejné osobnosti niekedy zažívajú náhly nárast komentárov a žiadostí o DM od ľudí, ktorých nepoznajú,“ šéf Instagramu Adam Mosseri. napísal v blogovom príspevku.

Nová funkcia Instagramu Limity má pomôcť predchádzať zneužívaniu tým, že používateľom umožňuje vybrať si, kto s nimi môže v rušných časoch komunikovať. Používatelia môžu zapnúť obmedzenia pre účty, ktoré ich nesledujú, a účty patriace nedávnym sledovateľom. Keď sú povolené limity, tieto účty nemôžu uverejňovať komentáre ani odosielať žiadosti o DM počas určeného obdobia.

Rozširuje sa aj ďalšia funkcia Instagramu s názvom Hidden Words, ktorá je určená na ochranu používateľov pred nechcenými požiadavkami DM. Skryté slová automaticky filtruje požiadavky, ktoré obsahujú nevhodné slová, frázy a emotikony. Filter umiestni veci, ktoré nechcete vidieť, do skrytého priečinka, kde sa môžete rozhodnúť, či ich chcete vidieť. Filtruje tiež požiadavky, ktoré sú pravdepodobne spam alebo sú inak nízkej kvality.

Instagram aktualizoval svoju databázu skrytých slov o nové typy urážlivých jazykov vrátane reťazcov emoji a zahrnul ich do filtra, povedal Mosseri. Táto funkcia bola spustená vo vybraných krajinách a celosvetovo bude dostupná do konca mesiaca.

Twitter zvažuje spôsoby, ako zabrániť zneužívaniu

Opatrenia proti zneužívaniu zvažujú aj ďalšie platformy sociálnych médií.

Twitter vyšetruje spôsoby, ako pomôcť používateľom predchádzať nechcenej pozornosti. Systém upozornení spoločnosti upozorní používateľa, keď bol priamo označený v tweete. Táto funkcia je užitočná, ak je tweet zaujímavý. Urážlivý obsah však môže viesť ku kyberšikane.

Spoločnosť uviedla, že zvažuje rôzne spôsoby, ako zabrániť zneužívaniu, vrátane toho, že umožní používateľom „nezmieniť sa“ o sebe. Táto možnosť by používateľom umožnila odstrániť svoje meno z tweetu iného používateľa, aby v ňom už neboli označení a zabránila by tomu, aby sa v ich informačnom kanáli zobrazovali nechcené komentáre.

Online zneužívanie je bežné. Nedávny prieskum Pew Research Center zistili, že 41 % Američanov osobne zažilo nejakú formu online obťažovania. Na otázku, ako dobre tieto spoločnosti riešia online obťažovanie alebo šikanovanie na svojich platformách, len 18 % uviedlo, že spoločnosti v oblasti sociálnych médií odvádzajú vynikajúcu alebo dobrú prácu.

Roulet povedal, že zneužívanie na sociálnych sieťach je ťažko riešiteľný problém. Prvým kontaktným bodom sú zneužití používatelia, ktorí môžu nahlásiť urážlivé správy. Keď je používateľ viackrát nahlásený, IP adresa môže byť zakázaná.

„Dôležité je, že keďže spoločnosti sociálnych médií zhromažďujú údaje o nahlásených správach, môžu byť schopné automatizovať a vylepšiť detekcia urážlivých správ pomocou strojového učenia s rizikom, že niekedy cenzurujú prijateľný obsah,“ Roulet pridané.

Mosseri povedal, že Instagram bude „investovať do organizácií zameraných na rasovú spravodlivosť a spravodlivosť“.

„Vieme, že je potrebné urobiť viac, vrátane zlepšenia našich systémov, aby sme rýchlejšie našli a odstránili urážlivý obsah a pohnali tých, ktorí ho uverejnili, na zodpovednosť,“ napísal Mosseri.