Kako tvrtke na društvenim mrežama pokušavaju zaustaviti zlostavljanje

Tvrtke društvenih medija pokušavaju suzbiti kontinuirani problem zlostavljanja na svojim platformama.

Instagram je nedavno rekao da bi se tako lakše spriječili neželjeni komentari i izravne poruke na društvenoj mreži za dijeljenje fotografija i videa. Korisnici sada mogu automatski filtrirati uvredljiv sadržaj i sakriti komentare i zahtjeve za izravne poruke određenih korisnika.

"Ako se tvrtke na društvenim mrežama ne suzbiju s uvredljivim porukama, završit će samo s uvredljivim korisnici međusobno zlostavljaju i nitko zapravo neće razumno konzumirati sadržaj društvenih medija moda," Thomas Roulet, profesor na Sveučilištu Cambridge koji proučava probleme društvenih medija, rekao je za Lifewire u intervjuu e-poštom.

"U osnovi će dugoročno izgubiti dobre i vrijedne korisnike."

Napadi su rasprostranjeni

Sport je nedavno bio žarište napada na društvenim mrežama. Nakon finala Eura 2020., ljutiti navijači napali su engleske nogometaše na Instagramu nakon poraza momčadi. Incidenti, koji su uključivali rasističke komentare i emojije, istaknuli su bespomoćnost korisnika Instagrama da spriječe napade na platformu. Manekenka Chrissy Teigen izbrisala je svoj Twitter račun u ožujku nakon što se požalila na zlostavljanje na platformi.

"Razvili smo ovu značajku jer kreatori i javne osobe ponekad doživljavaju iznenadne skokove komentara i DM zahtjeva od ljudi koje ne poznaju", voditelj Instagrama Adam Mosseri napisao je u postu na blogu.

Instagramova nova značajka Limits namijenjena je sprječavanju zlostavljanja dopuštajući korisnicima da odaberu tko može komunicirati s njima u vrijeme gužve. Korisnici mogu uključiti ograničenja za račune koji ih ne prate i one koji pripadaju nedavnim sljedbenicima. Kada su ograničenja omogućena, ovi računi ne mogu objavljivati ​​komentare ili slati DM zahtjeve u određenom razdoblju.

Još jedna Instagram značajka pod nazivom Hidden Words, dizajnirana da zaštiti korisnike od neželjenih DM zahtjeva, također se proširuje. Skrivene riječi automatski filtriraju zahtjeve koji sadrže uvredljive riječi, fraze i emojije. Filtar stavlja stvari koje ne želite vidjeti u skrivenu mapu, gdje možete odlučiti želite li ih vidjeti. Također filtrira zahtjeve koji su vjerojatno neželjeni ili su na neki drugi način nekvalitetni.

Instagram je ažurirao svoju bazu podataka skrivenih riječi novim vrstama uvredljivih jezika, uključujući nizove emotikona, i uključio ih u filter, rekao je Mosseri. Značajka je pokrenuta u odabranim zemljama i bit će dostupna u cijelom svijetu do kraja mjeseca.

Twitter razmatra načine za sprječavanje zlostavljanja

Druge platforme društvenih medija također razmatraju mjere protiv zlostavljanja.

Twitter istražuje načine pomoći korisnicima da spriječe neželjenu pažnju. Tvrtkin sustav obavijesti upozorava korisnika kada je izravno označen u tweetu. Značajka je korisna ako je tweet zanimljiv. Ali uvredljivi sadržaj može dovesti do cyberbullyinga.

Tvrtka je rekla da razmatra različite načine za sprječavanje zlouporabe, uključujući dopuštanje korisnicima da se "ne spominju". Ova bi mogućnost omogućila korisnicima da uklone svoje ime iz tuđeg tweeta kako više ne bi bili označeni u njemu i spriječila bi pojavljivanje neželjenih komentara u njihovom feedu.

Zlostavljanje na internetu je uobičajeno. Nedavno istraživanje Pew Research Center-a otkrili da je 41% Amerikanaca osobno iskusilo neki oblik uznemiravanja na internetu. Na pitanje da ocijene koliko dobro te tvrtke rješavaju online uznemiravanje ili maltretiranje na svojim platformama, samo 18% je odgovorilo da tvrtke društvenih medija rade odličan ili dobar posao.

Roulet je rekao da je zlostavljanje na društvenim mrežama teško riješiti. Prve kontaktne točke su zlostavljani korisnici koji mogu prijaviti uvredljive poruke. Nakon što je korisnik prijavljen više puta, IP adresa se može zabraniti.

"Važno je da tvrtke na društvenim mrežama prikupljaju podatke o prijavljenim porukama, mogle bi automatizirati i poboljšati otkrivanje uvredljivih poruka korištenjem strojnog učenja, uz rizik da ponekad cenzuriraju prihvatljiv sadržaj", Roulet dodano.

Mosseri je rekao da će Instagram "ulagati u organizacije usredotočene na rasnu pravdu i jednakost".

"Znamo da ima još toga za učiniti, uključujući poboljšanje naših sustava za brže pronalaženje i uklanjanje uvredljivog sadržaja i pozivanje onih koji ga objavljuju na odgovornost", napisao je Mosseri.