Kā sociālo mediju uzņēmumi cenšas apturēt ļaunprātīgu izmantošanu

Sociālo mediju uzņēmumi cenšas novērst pastāvīgo ļaunprātīgas izmantošanas problēmu savās platformās.

Instagram nesen teica ka tas atvieglotu nevēlamu komentāru un tiešu ziņojumu novēršanu fotoattēlu un video koplietošanas sociālo tīklu pakalpojumā. Lietotāji tagad var automātiski filtrēt aizskarošu saturu un slēpt komentārus un tiešu ziņojumu pieprasījumus no konkrētiem lietotājiem.

"Ja sociālo mediju uzņēmumi nevērsīsies pret ļaunprātīgu ziņojumapmaiņu, tie beigsies tikai ar ļaunprātīgu izmantošanu lietotāji ļaunprātīgi izmanto viens otru, un neviens faktiski nepatērēs sociālo mediju saturu saprātīgā apmērā mode," Tomass Roulets, Kembridžas universitātes profesors kurš pēta sociālo mediju problēmas, stāstīja Lifewire e-pasta intervijā.

"Viņi būtībā zaudēs labos un vērtīgos lietotājus ilgtermiņā."

Uzbrukumi ir nikni

Sports pēdējā laikā ir bijis sociālo mediju uzbrukumu uzliesmojums. Pēc Euro 2020 fināla dusmīgi fani uzbruka Anglijas futbolistiem vietnē Instagram pēc komandas sakāves. Notikumi, kas ietvēra rasistiskus komentārus un emocijzīmes, uzsvēra Instagram lietotāju bezpalīdzību novērst uzbrukumus platformai. Modele Krisija Teigena martā izdzēsa savu Twitter kontu pēc sūdzēšanās par ļaunprātīgu izmantošanu platformā.

"Mēs izstrādājām šo funkciju, jo satura veidotāji un publiskas personas dažkārt piedzīvo pēkšņus komentāru pieaugumu un DM pieprasījumus no cilvēkiem, kurus viņi nepazīst," Instagram vadītājs Adams Mosseri. rakstīja emuāra ierakstā.

Instagram jaunā Limits funkcija ir paredzēta, lai palīdzētu novērst ļaunprātīgu izmantošanu, ļaujot lietotājiem izvēlēties, kas var sazināties ar viņiem aizņemtajā laikā. Lietotāji var ieslēgt ierobežojumus kontiem, kas viņiem neseko, un tiem, kas pieder nesenajiem sekotājiem. Ja ir iespējoti ierobežojumi, šie konti nevar publicēt komentārus vai nosūtīt DM pieprasījumus noteiktā laika periodā.

Tiek paplašināta arī cita Instagram funkcija ar nosaukumu Hidden Words, kas paredzēta lietotāju aizsardzībai no nevēlamiem DM pieprasījumiem. Slēptie vārdi automātiski filtrē pieprasījumus, kas satur aizskarošus vārdus, frāzes un emocijzīmes. Filtrs ievieto lietas, kuras nevēlaties redzēt, slēptā mapē, kur varat izlemt, vai vēlaties tās redzēt. Tas arī filtrē pieprasījumus, kas, iespējams, ir surogātpasts vai citādi zemas kvalitātes.

Instagram ir atjauninājis savu Hidden Words datubāzi ar jauna veida aizskarošu valodu, tostarp emocijzīmju virknes, un iekļāvis tās filtrā, sacīja Mosseri. Funkcija ir ieviesta atsevišķās valstīs un būs pieejama visā pasaulē līdz mēneša beigām.

Twitter apsver veidus, kā novērst ļaunprātīgu izmantošanu

Citas sociālo mediju platformas arī apsver pasākumus ļaunprātīgas izmantošanas novēršanai.

Twitter veic izmeklēšanu veidi, kā palīdzēt lietotājiem novērst nevēlamu uzmanību. Uzņēmuma paziņojumu sistēma brīdina lietotāju, kad viņš ir tieši atzīmēts tviterī. Funkcija ir noderīga, ja tvīts ir interesants. Taču ļaunprātīgs saturs var izraisīt kiberhuligānismu.

Uzņēmums ir paziņojis, ka apsver dažādus veidus, kā novērst ļaunprātīgu izmantošanu, tostarp ļaujot lietotājiem "nepieminēt" sevi. Šī iespēja ļautu lietotājiem noņemt savu vārdu no citas personas tvīta, lai viņi tajā vairs netiktu atzīmēti, un nevēlami komentāri netiktu rādīti viņu plūsmā.

Ļaunprātīga izmantošana tiešsaistē ir izplatīta parādība. Nesen veikta Pew Research Center aptauja atklāja, ka 41% amerikāņu ir personīgi piedzīvojuši kādu tiešsaistes uzmākšanos. Jautāti par to, cik labi šie uzņēmumi savās platformās risina tiešsaistes uzmākšanos vai iebiedēšanu, tikai 18% atbildēja, ka sociālo mediju uzņēmumi veic izcilu vai labu darbu.

Roulet teica, ka ļaunprātīga izmantošana sociālajos medijos ir grūti atrisināma problēma. Pirmie kontaktpunkti ir ļaunprātīgi izmantotie lietotāji, kuri var ziņot par ļaunprātīgiem ziņojumiem. Ja par lietotāju tiek ziņots vairākas reizes, IP adresi var aizliegt.

"Svarīgi ir tas, ka sociālo mediju uzņēmumi uzkrāj datus par ziņotajiem ziņojumiem, tāpēc tie varētu automatizēt un uzlabot aizskarošu ziņojumu noteikšana, izmantojot mašīnmācīšanos, ar risku, ka tie dažkārt cenzē pieņemamu saturu," Roulet pievienots.

Mosseri sacīja, ka Instagram "ieguldīs organizācijās, kas koncentrējas uz rasu taisnīgumu un vienlīdzību".

"Mēs zinām, ka ir jādara vēl vairāk, tostarp jāuzlabo mūsu sistēmas, lai ātrāk atrastu un noņemtu ļaunprātīgu saturu, un saukt pie atbildības tos, kuri to ievieto," rakstīja Mosseri.