Cum încearcă companiile de social media să oprească abuzurile

Companiile de social media încearcă să reprime problema continuă a abuzului pe platformele lor.

Instagram a spus recent că ar facilita prevenirea comentariilor nedorite și a mesajelor directe pe serviciul de rețele sociale de partajare a fotografiilor și a videoclipurilor. Utilizatorii pot acum filtra automat conținutul ofensator și pot ascunde comentariile și solicitările de mesaje directe de la anumiți utilizatori.

„Dacă companiile de rețele sociale nu reprimă mesajele abuzive, vor ajunge doar la abuzuri utilizatorii se abuzează reciproc și nimeni nu va consuma de fapt conținutul rețelelor sociale într-un mod rezonabil Modă," Thomas Roulet, profesor la Universitatea din Cambridge care studiază problemele rețelelor sociale, a declarat pentru Lifewire într-un interviu prin e-mail.

„Practic vor pierde utilizatorii buni și valoroși pe termen lung.”

Atacurile sunt rampante

Sportul a fost un punct de foc recent pentru atacurile din rețelele sociale. După finala Euro 2020, fanii furioși au atacat fotbaliștii Angliei pe Instagram în urma înfrângerii echipei. Incidentele, care au inclus comentarii rasiste și emoji, au evidențiat neputința utilizatorilor Instagram de a preveni atacurile asupra platformei. Modelul Chrissy Teigen și-a șters contul de Twitter în martie, după ce s-a plâns de abuz pe platformă.

„Am dezvoltat această funcție pentru că creatorii și personalitățile publice se confruntă uneori cu vârfuri bruște de comentarii și solicitări DM de la persoane pe care nu le cunosc”, șeful Instagram Adam Mosseri a scris într-o postare pe blog.

Noua funcție Limite a Instagram este menită să ajute la prevenirea abuzului, permițând utilizatorilor să aleagă cine poate interacționa cu ei în perioadele aglomerate. Utilizatorii pot activa restricții pentru conturile care nu îi urmăresc și pentru cele aparținând adepților recent. Când Limitele sunt activate, aceste conturi nu pot posta comentarii sau trimite solicitări DM pentru o perioadă specificată.

O altă funcție Instagram numită Cuvinte ascunse, concepută pentru a proteja utilizatorii de solicitările DM nedorite, este, de asemenea, extinsă. Cuvinte ascunse filtrează automat cererile care conțin cuvinte, expresii și emoji-uri jignitoare. Filtrul pune lucrurile pe care nu doriți să le vedeți într-un dosar ascuns, unde puteți decide dacă doriți să le vedeți. De asemenea, filtrează solicitările care sunt probabil spam sau de calitate scăzută.

Instagram și-a actualizat baza de date Hidden Words cu noi tipuri de limbaj ofensator, inclusiv șiruri de emoji, și le-a inclus în filtru, a spus Mosseri. Funcția a fost lansată în anumite țări și va fi disponibilă în întreaga lume până la sfârșitul lunii.

Twitter ia în considerare modalități de a preveni abuzul

Alte platforme de social media iau în considerare și măsuri anti-abuz.

Twitter investighează modalități de a ajuta utilizatorii să prevină atenția nedorită. Sistemul de notificare al companiei alertează un utilizator atunci când acesta a fost etichetat direct într-un tweet. Funcția este utilă dacă tweet-ul este interesant. Dar conținutul abuziv poate duce la hărțuire cibernetică.

Compania a spus că are în vedere diferite modalități de a preveni abuzul, inclusiv să permită utilizatorilor să se „nemenționeze”. Această capacitate le-ar permite utilizatorilor să-și șteargă numele din tweet-ul altuia, astfel încât să nu mai fie etichetați în el și să împiedice apariția comentariilor nedorite în feedul lor.

Abuzul online este obișnuit. Un sondaj recent al Centrului de Cercetare Pew a constatat că 41% dintre americani au suferit personal o formă de hărțuire online. Când li s-a cerut să evalueze cât de bine aceste companii abordează hărțuirea online sau intimidarea pe platformele lor, doar 18% au spus că companiile de social media fac o treabă excelentă sau bună.

Roulet a spus că abuzul pe rețelele sociale este o problemă dificil de rezolvat. Primii puncte de contact sunt utilizatorii abuzați care pot raporta mesaje abuzive. Odată ce un utilizator este raportat de mai multe ori, adresa IP poate fi interzisă.

„Important, pe măsură ce companiile de social media acumulează date despre mesajele raportate, acestea ar putea fi capabile să automatizeze și să îmbunătățească detectarea mesajelor ofensive folosind învățarea automată, cu riscul ca acestea să cenzureze uneori conținut acceptabil”, a spus Roulet. adăugat.

Mosseri a spus că Instagram va „investi în organizații concentrate pe justiție și echitate rasială”.

„Știm că mai sunt multe de făcut, inclusiv îmbunătățirea sistemelor noastre pentru a găsi și elimina mai rapid conținutul abuziv și a trai la răspundere pe cei care îl postează”, a scris Mosseri.