Како компаније друштвених медија покушавају да зауставе злоупотребу

Компаније друштвених медија покушавају да се суоче са континуираним проблемом злоупотребе на својим платформама.

Инстаграм је недавно рекао да би то олакшало спречавање нежељених коментара и директних порука на сервису друштвених мрежа за дељење фотографија и видео записа. Корисници сада могу аутоматски да филтрирају увредљив садржај и сакрију коментаре и захтеве за директне поруке одређених корисника.

„Ако компаније друштвених медија не сузбију увредљиве поруке, завршиће само са увредљивим корисници злоупотребљавају једни друге, и нико заправо неће конзумирати садржај друштвених медија у разумној мери мода", Тхомас Роулет, професор на Универзитету у Кембриџу који проучава проблеме друштвених медија, рекао је за Лифевире у интервјуу е-поштом.

„Они ће у основи изгубити добре и вредне кориснике на дужи рок.

Напади су распрострањени

Спорт је недавно постао жариште напада на друштвене мреже. Након финала Еура 2020, љути навијачи напали су енглеске фудбалере на Инстаграму након пораза тима. Инциденти, који су укључивали расистичке коментаре и емоџије, указали су на беспомоћност корисника Инстаграма да спрече нападе на платформу. Манекенка Криси Тејген избрисала је свој Твитер налог у марту након што се пожалила на злоупотребу на платформи.

„Развили смо ову функцију зато што креатори и јавне личности понекад доживљавају изненадне скокове коментара и ДМ захтева од људи које не познају,“ шеф Инстаграма Адам Мосери написао је у посту на блогу.

Инстаграмова нова функција Лимитс има за циљ да спречи злоупотребу омогућавајући корисницима да одаберу ко може да комуницира са њима у време гужве. Корисници могу укључити ограничења за налоге који их не прате и оне који припадају недавним пратиоцима. Када су ограничења омогућена, ови налози не могу да постављају коментаре или шаљу ДМ захтеве у одређеном периоду.

Још једна Инстаграм функција под називом Хидден Вордс, дизајнирана да заштити кориснике од нежељених ДМ захтева, такође се проширује. Скривене речи аутоматски филтрирају захтеве који садрже увредљиве речи, фразе и емоџије. Филтер ставља ствари које не желите да видите у скривену фасциклу, где можете да одлучите да ли желите да их видите. Такође филтрира захтеве који су вероватно нежељени или су на неки други начин лошег квалитета.

Инстаграм је ажурирао своју базу података скривених речи новим типовима увредљивих језика, укључујући низове емоџија, и укључио их у филтер, рекао је Мосери. Ова функција је покренута у одабраним земљама и биће доступна широм света до краја месеца.

Твитер разматра начине да спречи злоупотребу

Друге платформе друштвених медија такође разматрају мере против злоупотребе.

Твитер истражује начине да се помогне корисницима да спрече нежељену пажњу. Систем обавештења компаније упозорава корисника када је директно означен у твиту. Ова функција је корисна ако је твит занимљив. Али увредљиви садржај може довести до малтретирања путем интернета.

Компанија је саопштила да разматра различите начине за спречавање злоупотребе, укључујући омогућавање корисницима да се "непомињу". Ова могућност би омогућила корисницима да уклоне своје име из туђег твита како више не би били означени у њему и спречила би појављивање нежељених коментара у њиховом фиду.

Злоупотреба на мрежи је уобичајена. Недавно истраживање Пев Ресеарцх Центер-а открили да је 41% Американаца лично искусило неки облик онлајн узнемиравања. На питање да оцењују колико добро се ове компаније баве онлајн узнемиравањем или малтретирањем на својим платформама, само 18% је рекло да компаније друштвених медија раде одличан или добар посао.

Рулет је рекао да је злоупотреба на друштвеним мрежама проблем који се тешко решава. Прве тачке контакта су злостављани корисници који могу пријавити увредљиве поруке. Када се корисник пријави више пута, ИП адреса може бити забрањена.

„Важно је да компаније друштвених медија акумулирају податке о пријављеним порукама, можда ће моћи да аутоматизују и побољшају откривање увредљивих порука коришћењем машинског учења, уз ризик да понекад цензуришу прихватљив садржај“, Рулет додао је.

Мосери је рекао да ће Инстаграм "улагати у организације фокусиране на расну правду и једнакост".

„Знамо да има још тога да се уради, укључујући побољшање наших система за брже проналажење и уклањање увредљивог садржаја и позивање оних који га објављују на одговорност“, написао је Мосери.