Jak firmy zajmujące się mediami społecznościowymi starają się powstrzymać nadużycia

Firmy zajmujące się mediami społecznościowymi próbują rozwiązać problem nadużyć na swoich platformach.

Instagram powiedział ostatnio że ułatwiłoby to zapobieganie niechcianym komentarzom i bezpośrednim wiadomościom w serwisie społecznościowym do udostępniania zdjęć i filmów. Użytkownicy mogą teraz automatycznie filtrować obraźliwe treści oraz ukrywać komentarze i bezpośrednie prośby o wiadomość od określonych użytkowników.

„Jeśli firmy zajmujące się mediami społecznościowymi nie będą rozprawiać się z obraźliwymi wiadomościami, skończą z nadużyciami użytkownicy nadużywają się nawzajem, a tak naprawdę nikt nie będzie konsumował treści z mediów społecznościowych w rozsądny sposób moda," Thomas Roulet, profesor na Uniwersytecie Cambridge

który bada problemy z mediami społecznościowymi, powiedział Lifewire w wywiadzie e-mailowym.

„W dłuższej perspektywie zasadniczo stracą dobrych i wartościowych użytkowników”.

Ataki są powszechne

Sport był ostatnim punktem zapalnym ataków w mediach społecznościowych. Po finale Euro 2020 wściekli fani zaatakowali angielskich piłkarzy na Instagramie po porażce drużyny. Incydenty, które obejmowały rasistowskie komentarze i emotikony, zwróciły uwagę na bezradność użytkowników Instagrama w zapobieganiu atakom na platformę. Modelka Chrissy Teigen usunęła swoje konto na Twitterze w marcu po tym, jak skarżyła się na nadużycia na platformie.

„Opracowaliśmy tę funkcję, ponieważ twórcy i osoby publiczne czasami doświadczają nagłych wzrostów komentarzy i próśb o DM od osób, których nie znają” – szef Instagrama Adam Mosseri napisał w poście na blogu.

Nowa funkcja limitów na Instagramie ma na celu zapobieganie nadużyciom, umożliwiając użytkownikom wybór, kto może z nimi wchodzić w interakcję w ruchliwych porach. Użytkownicy mogą włączyć ograniczenia dla kont, które ich nie obserwują oraz tych należących do niedawnych obserwatorów. Gdy limity są włączone, konta te nie mogą publikować komentarzy ani wysyłać próśb o czat przez określony czas.

Inna funkcja Instagrama o nazwie Ukryte słowa, zaprojektowana w celu ochrony użytkowników przed niechcianymi żądaniami wiadomości DM, również jest rozwijana. Ukryte słowa automatycznie filtrują żądania zawierające obraźliwe słowa, wyrażenia i emotikony. Filtr umieszcza rzeczy, których nie chcesz widzieć w ukrytym folderze, w którym możesz zdecydować, czy chcesz je zobaczyć. Odfiltrowuje również żądania, które prawdopodobnie są spamem lub są niskiej jakości.

Instagram zaktualizował swoją bazę danych Hidden Words o nowe typy obraźliwego języka, w tym ciągi emotikonów, i uwzględnił je w filtrze, powiedział Mosseri. Funkcja została uruchomiona w wybranych krajach i będzie dostępna na całym świecie pod koniec miesiąca.

Twitter rozważa sposoby zapobiegania nadużyciom

Inne platformy mediów społecznościowych również rozważają środki zapobiegające nadużyciom.

Twitter prowadzi dochodzenie sposoby pomocy użytkownikom w zapobieganiu niepożądanej uwadze. System powiadomień firmy ostrzega użytkownika, gdy został bezpośrednio oznaczony w tweecie. Ta funkcja jest pomocna, jeśli tweet jest interesujący. Jednak treści obraźliwe mogą prowadzić do cyberprzemocy.

Firma powiedziała, że ​​rozważa różne sposoby zapobiegania nadużyciom, w tym umożliwienie użytkownikom „pominięcia” samych siebie. Ta możliwość pozwoliłaby użytkownikom usunąć swoje imię i nazwisko z tweeta, aby nie byli już w nim oznaczani, i zapobiegłaby pojawianiu się niechcianych komentarzy w ich kanale.

Nadużycia w Internecie są powszechne. Ostatnia ankieta Pew Research Center odkryli, że 41% Amerykanów osobiście doświadczyło jakiejś formy nękania w Internecie. Poproszone o ocenę, jak dobrze te firmy radzą sobie z nękaniem lub zastraszaniem online na swoich platformach, tylko 18% odpowiedziało, że firmy zajmujące się mediami społecznościowymi wykonują doskonałą lub dobrą robotę.

Roulet powiedział, że nadużycia w mediach społecznościowych to trudny problem do naprawienia. Pierwszymi punktami kontaktu są nadużyci użytkownicy, którzy mogą zgłaszać obraźliwe wiadomości. Po wielokrotnym zgłoszeniu użytkownika adres IP może zostać zablokowany.

„Co ważne, ponieważ firmy zajmujące się mediami społecznościowymi gromadzą dane o zgłoszonych wiadomościach, mogą być w stanie zautomatyzować i poprawić wykrywanie obraźliwych wiadomości za pomocą uczenia maszynowego, z ryzykiem, że czasami cenzurują one dopuszczalne treści”, Roulet dodany.

Mosseri powiedział, że Instagram będzie „inwestował w organizacje skupiające się na sprawiedliwości rasowej i równości”.

„Wiemy, że jest jeszcze wiele do zrobienia, w tym ulepszenie naszych systemów, aby szybciej znajdować i usuwać obraźliwe treści oraz pociągać do odpowiedzialności tych, którzy je zamieszczają” – napisał Mosseri.