Kuinka sosiaalisen median yritykset yrittävät estää väärinkäytön

Sosiaalisen median yritykset yrittävät torjua jatkuvasti jatkuvaa väärinkäyttöongelmaa alustoillaan.

Instagram sanoi hiljattain että se helpottaisi ei-toivottujen kommenttien ja viestien lähettämistä valokuvien ja videoiden jakamiseen liittyvässä yhteisöpalvelussa. Käyttäjät voivat nyt automaattisesti suodattaa loukkaavan sisällön pois ja piilottaa kommentit ja suorat viestipyynnöt tietyiltä käyttäjiltä.

"Jos sosiaalisen median yritykset eivät ryhdy väkivaltaiseen viestintään, ne päätyvät vain väärinkäyttöön käyttäjät väärinkäyttävät toisiaan, eikä kukaan todellisuudessa käytä sosiaalisen median sisältöä kohtuullisessa määrin muoti," Thomas Roulet, Cambridgen yliopiston professori joka tutkii sosiaalisen median ongelmia, kertoi Lifewire sähköpostihaastattelussa.

"He menettävät pitkällä aikavälillä hyvät ja arvokkaat käyttäjät."

Hyökkäykset ovat rehottavia

Urheilu on viime aikoina ollut sosiaalisen median hyökkäysten leimahduspiste. Euro 2020 -finaalin jälkeen vihaiset fanit hyökkäsivät Englannin jalkapalloilijoiden kimppuun Instagramissa joukkueen tappion jälkeen. Tapahtumat, jotka sisälsivät rasistisia kommentteja ja emojia, korostivat Instagram-käyttäjien avuttomuutta estää hyökkäyksiä alustaa vastaan. Malli Chrissy Teigen poisti Twitter-tilinsä maaliskuussa valitettuaan väärinkäytöksestä alustalla.

"Kehitimme tämän ominaisuuden, koska sisällöntuottajat ja julkisuuden henkilöt kokevat joskus äkillisiä kommentteja ja DM-pyyntöjä ihmisiltä, ​​joita he eivät tunne", Instagramin johtaja Adam Mosseri kirjoitti blogikirjoituksessaan.

Instagramin uusi Limits-ominaisuus on tarkoitettu estämään väärinkäyttöä antamalla käyttäjien valita, kuka voi olla vuorovaikutuksessa heidän kanssaan kiireisinä aikoina. Käyttäjät voivat ottaa käyttöön rajoituksia tileille, jotka eivät seuraa heitä ja jotka kuuluvat viimeaikaisille seuraajille. Kun rajoitukset ovat käytössä, nämä tilit eivät voi lähettää kommentteja tai lähettää DM-pyyntöjä tietyn ajanjakson aikana.

Toista Instagram-ominaisuutta nimeltä Hidden Words, joka on suunniteltu suojaamaan käyttäjiä ei-toivotuilta DM-pyynnöiltä, ​​on myös laajennettu. Hidden Words suodattaa automaattisesti pyynnöt, jotka sisältävät loukkaavia sanoja, lauseita ja hymiöitä. Suodatin sijoittaa asiat, joita et halua nähdä piilotettuun kansioon, jossa voit päättää, haluatko nähdä ne. Se myös suodattaa pois pyynnöt, jotka ovat todennäköisesti roskapostia tai muuten huonolaatuisia.

Instagram on päivittänyt Hidden Words -tietokantansa uudentyyppisellä loukkaavalla kielellä, mukaan lukien emoji-jonot, ja sisällyttänyt ne suodattimeen, Mosseri sanoi. Ominaisuus on julkaistu tietyissä maissa, ja se on saatavilla maailmanlaajuisesti kuun loppuun mennessä.

Twitter pohtii tapoja estää väärinkäyttö

Myös muut sosiaalisen median alustat harkitsevat väärinkäytösten vastaisia ​​toimia.

Twitter tutkii asiaa tapoja auttaa käyttäjiä estämään ei-toivottu huomio. Yrityksen ilmoitusjärjestelmä varoittaa käyttäjää, kun hänet on merkitty suoraan twiittiin. Ominaisuus on hyödyllinen, jos twiitti on mielenkiintoinen. Mutta loukkaava sisältö voi johtaa verkkokiusaamiseen.

Yhtiö on sanonut harkitsevansa erilaisia ​​​​tapoja väärinkäytösten estämiseksi, mukaan lukien käyttäjien "mainitsematta" itseään. Tämän ominaisuuden avulla käyttäjät voivat poistaa nimensä toisen twiitistä, jotta heitä ei enää merkitä siihen ja ei-toivotut kommentit eivät näy syötteessä.

Verkkoväkivalta on yleistä. Tuore Pew Research Centerin tutkimus havaitsi, että 41 % amerikkalaisista on henkilökohtaisesti kokenut jonkinlaista online häirintää. Kun kyseisiä yrityksiä pyydettiin arvioimaan, kuinka hyvin nämä yritykset puuttuvat verkkokiusaamiseen tai -kiusaamiseen alustoillaan, vain 18 % sanoi, että sosiaalisen median yritykset tekevät erinomaista tai hyvää työtä.

Roulet sanoi, että väärinkäyttö sosiaalisessa mediassa on vaikea korjata. Ensimmäiset yhteyspisteet ovat väärinkäyttäneet käyttäjät, jotka voivat ilmoittaa loukkaavista viesteistä. Kun käyttäjä on raportoitu useita kertoja, IP-osoite voidaan estää.

"Tärkeää on, että kun sosiaalisen median yritykset keräävät tietoa raportoiduista viesteistä, ne saattavat pystyä automatisoimaan ja parantamaan loukkaavien viestien havaitseminen koneoppimisen avulla, jolloin riskinä on, että ne joskus sensuroivat hyväksyttävää sisältöä", Roulet lisätty.

Mosseri sanoi, että Instagram "sijoittaisi organisaatioihin, jotka keskittyvät rodulliseen oikeudenmukaisuuteen ja tasapuolisuuteen".

"Tiedämme, että tehtävää on enemmän, mukaan lukien järjestelmien parantaminen loukkaavan sisällön löytämiseksi ja poistamiseksi nopeammin ja sen lähettäjien saattaminen vastuuseen", Mosseri kirjoitti.