Kuidas sotsiaalmeedia ettevõtted üritavad kuritarvitamist peatada

Sotsiaalmeedia ettevõtted püüavad oma platvormidel jätkuva kuritarvitamise probleemiga võidelda.

Instagram ütles hiljuti et see hõlbustaks soovimatute kommentaaride ja otsesõnumite ärahoidmist fotode ja videote jagamise suhtlusvõrgustikus. Kasutajad saavad nüüd automaatselt välja filtreerida solvava sisu ning peita konkreetsete kasutajate kommentaarid ja sõnumitaotlused.

„Kui sotsiaalmeediaettevõtted kuritahtlikke sõnumeid vastu ei võta, jõuavad nad ainult kuritahtlikuni kasutajad kuritarvitavad üksteist ja keegi ei tarbi sotsiaalmeedia sisu mõistlikul määral mood," Thomas Roulet, Cambridge'i ülikooli professor kes uurib sotsiaalmeedia probleeme, rääkis Lifewire'ile meiliintervjuus.

"Pikemas perspektiivis kaotavad nad põhimõtteliselt head ja väärtuslikud kasutajad."

Rünnakud on ohjeldamatu

Sport on viimasel ajal olnud sotsiaalmeedia rünnakute löögipunkt. Pärast Euro 2020 finaali ründasid vihased fännid Inglismaa jalgpallureid Instagramis pärast meeskonna lüüasaamist. Intsidendid, mis sisaldasid rassistlikke kommentaare ja emotikone, tõid esile Instagrami kasutajate abituse platvormi rünnakute ärahoidmisel. Modell Chrissy Teigen kustutas oma Twitteri konto märtsis pärast seda, kui kaebas platvormi kuritarvitamise üle.

"Arendasime selle funktsiooni, kuna loojad ja avaliku elu tegelased kogevad mõnikord ootamatuid kommentaare ja DM-i taotlusi inimestelt, keda nad ei tunne," Instagrami juht Adam Mosseri kirjutas blogipostituses.

Instagrami uue funktsiooni Limits eesmärk on aidata ära hoida kuritarvitamist, võimaldades kasutajatel valida, kes saab kiiretel aegadel nendega suhelda. Kasutajad saavad sisse lülitada piirangud kontodele, mis neid ei jälgi ja mis kuuluvad hiljutistele jälgijatele. Kui piirangud on lubatud, ei saa need kontod teatud aja jooksul kommentaare postitada ega DM-i päringuid saata.

Laiendatakse ka teist Instagrami funktsiooni nimega Hidden Words, mis on loodud kasutajate kaitsmiseks soovimatute DM-i päringute eest. Hidden Words filtreerib automaatselt päringud, mis sisaldavad solvavaid sõnu, fraase ja emotikone. Filter paneb asjad, mida te ei soovi näha, peidetud kausta, kus saate otsustada, kas soovite neid näha. Samuti filtreerib see välja taotlused, mis on tõenäoliselt rämpsposti või muul viisil madala kvaliteediga.

Instagram on värskendanud oma peidetud sõnade andmebaasi uut tüüpi solvava keelega, sealhulgas emotikonide stringidega, ja lisanud need filtrisse, ütles Mosseri. Funktsioon käivitati valitud riikides ja on kuu lõpuks saadaval kogu maailmas.

Twitter kaalub võimalusi kuritarvitamise ärahoidmiseks

Ka teised sotsiaalmeedia platvormid kaaluvad kuritarvitamise vastaseid meetmeid.

Twitter uurib viise, kuidas aidata kasutajatel soovimatut tähelepanu vältida. Ettevõtte teavitussüsteem annab kasutajale märku, kui ta on säutsu otse märgistatud. Funktsioon on kasulik, kui säuts on huvitav. Kuid kuritahtlik sisu võib viia küberkiusamiseni.

Ettevõte on öelnud, et kaalub erinevaid viise kuritarvitamise ärahoidmiseks, sealhulgas lubades kasutajatel end "ära mainida". See võimalus võimaldab kasutajatel eemaldada oma nime teise säutsudest, et neid seal enam ei märgitataks ja et soovimatud kommentaarid ei ilmuks nende voos.

Veebi kuritarvitamine on tavaline. Hiljutine Pew Research Centeri uuring avastas, et 41% ameeriklastest on isiklikult kogenud mingit Interneti-ahistamise vormi. Kui neil paluti hinnata, kui hästi need ettevõtted oma platvormidel võrguahistamise või -kiusamisega tegelevad, vastas vaid 18%, et sotsiaalmeedia ettevõtted teevad suurepärast või head tööd.

Roulet ütles, et kuritarvitamine sotsiaalmeedias on raskesti lahendatav probleem. Esimesed kontaktpunktid on kuritarvitatud kasutajad, kes saavad kuritahtlikest sõnumitest teatada. Kui kasutajast on mitu korda teatatud, saab IP-aadressi keelata.

"Oluline on see, et kuna sotsiaalmeedia ettevõtted koguvad andmeid teatatud sõnumite kohta, võivad nad olla võimelised automatiseerima ja täiustama solvavate sõnumite tuvastamine masinõppe abil koos ohuga, et need mõnikord tsenseerivad vastuvõetavat sisu," Roulet lisatud.

Mosseri ütles, et Instagram "investeerib organisatsioonidesse, mis keskenduvad rassilisele õiglusele ja võrdsusele".

"Me teame, et teha on rohkem, sealhulgas parandada meie süsteeme, et leida ja eemaldada kuritahtlikku sisu kiiremini, ning panna selle postitajad vastutusele," kirjutas Mosseri.