Kako družbena omrežja poskušajo ustaviti zlorabo

Podjetja družbenih medijev poskušajo odpraviti nenehni problem zlorabe na svojih platformah.

Instagram je pred kratkim povedal da bi tako lažje preprečili neželene komentarje in neposredna sporočila v storitvi družbenih omrežij za izmenjavo fotografij in videov. Uporabniki lahko zdaj samodejno filtrirajo žaljivo vsebino in skrijejo komentarje in zahteve za neposredna sporočila določenih uporabnikov.

"Če družbe družbenih medijev ne bodo zajele žaljivih sporočil, bodo končale le z žaljivimi uporabniki med seboj zlorabljajo in nihče dejansko ne bo užival vsebine družbenih medijev v razumnem smislu moda," Thomas Roulet, profesor na Univerzi v Cambridgeu ki preučuje probleme družbenih medijev, je za Lifewire povedal v e-poštnem intervjuju.

"V bistvu bodo dolgoročno izgubili dobre in dragocene uporabnike."

Napadi so razširjeni

Šport je bil nedavno žarišče napadov družbenih medijev. Po finalu Eura 2020 so jezni navijači napadli angleške nogometaše na Instagramu po porazu ekipe. Incidenti, ki so vključevali rasistične komentarje in emodžije, so opozorili na nemoč uporabnikov Instagrama, da bi preprečili napade na platformo. Manekenka Chrissy Teigen je marca izbrisala svoj račun na Twitterju, potem ko se je pritožila zaradi zlorabe na platformi.

"To funkcijo smo razvili, ker ustvarjalci in javne osebnosti včasih doživijo nenadne skoke komentarjev in zahtev DM od ljudi, ki jih ne poznajo," vodja Instagrama Adam Mosseri je napisal v objavi na blogu.

Instagramova nova funkcija Limits je namenjena preprečevanju zlorab, saj uporabnikom omogoča, da izberejo, kdo lahko komunicira z njimi v času zasedenosti. Uporabniki lahko vklopijo omejitve za račune, ki jih ne spremljajo, in tiste, ki pripadajo nedavnim sledilcem. Ko so omejitve omogočene, ti računi ne morejo objavljati komentarjev ali pošiljati zahtev DM za določeno obdobje.

Razširja se tudi druga funkcija Instagrama, imenovana Hidden Words, ki je zasnovana za zaščito uporabnikov pred neželenimi zahtevami DM. Skrite besede samodejno filtrirajo zahteve, ki vsebujejo žaljive besede, besedne zveze in emodžije. Filter stvari, ki jih ne želite videti, postavi v skrito mapo, kjer se lahko odločite, ali jih želite videti. Prav tako filtrira zahteve, ki so verjetno vsiljena pošta ali so drugače nizke kakovosti.

Instagram je svojo bazo skritih besed posodobil z novimi vrstami žaljivih jezikov, vključno z nizi emojijev, in jih vključil v filter, je dejal Mosseri. Funkcija je bila predstavljena v izbranih državah in bo na voljo po vsem svetu do konca meseca.

Twitter razmišlja o načinih za preprečevanje zlorab

Tudi druge platforme družbenih medijev razmišljajo o ukrepih proti zlorabam.

Twitter preiskuje načine, kako uporabnikom pomagati preprečiti neželeno pozornost. Sistem obveščanja podjetja opozori uporabnika, ko je bil neposredno označen v tvitu. Funkcija je koristna, če je tvit zanimiv. Toda žaljive vsebine lahko privedejo do spletnega ustrahovanja.

Podjetje je dejalo, da razmišlja o različnih načinih za preprečevanje zlorab, vključno z dovolitvijo uporabnikom, da se "ne omenjajo". Ta možnost bi uporabnikom omogočila, da odstranijo svoje ime iz tvita drugega, tako da v njem ne bodo več označeni, in preprečila, da bi se neželeni komentarji pojavili v njihovem viru.

Spletna zloraba je pogosta. Nedavna raziskava raziskovalnega centra Pew ugotovili, da je 41 % Američanov osebno doživelo neko obliko spletnega nadlegovanja. Na vprašanje, kako dobro ta podjetja obravnavajo spletno nadlegovanje ali ustrahovanje na svojih platformah, je le 18 % odgovorilo, da družbe družbenih medijev opravljajo odlično ali dobro delo.

Roulet je dejal, da je zlorabo na družbenih medijih težko odpraviti. Prve kontaktne točke so zlorabljeni uporabniki, ki lahko prijavijo žaljiva sporočila. Ko je uporabnik večkrat prijavljen, se lahko naslov IP prepove.

"Pomembno je, da družbe družbenih medijev zbirajo podatke o prijavljenih sporočilih, zato bi morda lahko avtomatizirala in izboljšala odkrivanje žaljivih sporočil z uporabo strojnega učenja, s tveganjem, da včasih cenzurirajo sprejemljivo vsebino,« Roulet dodano.

Mosseri je dejal, da bo Instagram "vlagal v organizacije, osredotočene na rasno pravičnost in pravičnost."

"Vemo, da je treba narediti še več, vključno z izboljšanjem naših sistemov za hitrejše iskanje in odstranjevanje žaljive vsebine in zahtevanjem odgovornosti tistih, ki jo objavijo," je zapisal Mosseri.