Wie Social-Media-Unternehmen versuchen, Missbrauch zu stoppen

Social-Media-Unternehmen versuchen, gegen das anhaltende Problem des Missbrauchs auf ihren Plattformen vorzugehen.

Instagram sagte kürzlich dass es einfacher wäre, unerwünschte Kommentare und Direktnachrichten auf dem sozialen Netzwerkdienst zum Teilen von Fotos und Videos zu verhindern. Benutzer können jetzt automatisch anstößige Inhalte herausfiltern und Kommentare und Direktnachrichtenanfragen von bestimmten Benutzern ausblenden.

"Wenn Social-Media-Unternehmen nicht gegen missbräuchliche Nachrichten vorgehen, werden sie nur beleidigend enden Benutzer missbrauchen sich gegenseitig, und niemand wird Social-Media-Inhalte in angemessener Weise konsumieren Mode," Thomas Roulet, Professor an der University of Cambridge

der sich mit Social-Media-Problemen beschäftigt, sagte Lifewire in einem E-Mail-Interview.

"Sie werden im Grunde auf längere Sicht die guten und wertvollen Nutzer verlieren."

Angriffe sind weit verbreitet

Sport war in letzter Zeit ein Brennpunkt für Social-Media-Angriffe. Nach dem Finale der EM 2020 griffen wütende Fans nach der Niederlage des Teams auf Instagram englische Fußballer an. Die Vorfälle, darunter rassistische Kommentare und Emojis, machten die Hilflosigkeit der Instagram-Nutzer deutlich, um Angriffe auf die Plattform zu verhindern. Model Chrissy Teigen löschte im März ihren Twitter-Account, nachdem sie sich über Missbrauch auf der Plattform beschwert hatte.

"Wir haben diese Funktion entwickelt, weil YouTuber und Persönlichkeiten des öffentlichen Lebens manchmal plötzliche Anstiege von Kommentaren und DM-Anfragen von Personen erleben, die sie nicht kennen", sagte Instagram-Chef Adam Mosseri schrieb in einem Blogbeitrag.

Die neue Limits-Funktion von Instagram soll dazu beitragen, Missbrauch zu verhindern, indem Benutzer wählen können, wer in Stoßzeiten mit ihnen interagieren darf. Benutzer können Einschränkungen für Konten aktivieren, die ihnen nicht folgen, und für Konten der letzten Follower. Wenn Limits aktiviert sind, können diese Konten für einen bestimmten Zeitraum keine Kommentare posten oder DM-Anfragen senden.

Eine weitere Instagram-Funktion namens Hidden Words, die Benutzer vor unerwünschten DM-Anfragen schützen soll, wird ebenfalls erweitert. Hidden Words filtert automatisch Anfragen, die anstößige Wörter, Phrasen und Emojis enthalten. Der Filter legt Dinge, die Sie nicht sehen möchten, in einen versteckten Ordner, in dem Sie entscheiden können, ob Sie sie sehen möchten. Es filtert auch Anfragen heraus, die wahrscheinlich Spam sind oder anderweitig von geringer Qualität sind.

Instagram hat seine Hidden Words-Datenbank mit neuen Arten anstößiger Sprache, einschließlich Emoji-Strings, aktualisiert und in den Filter aufgenommen, sagte Mosseri. Die Funktion wurde in ausgewählten Ländern eingeführt und wird Ende des Monats weltweit verfügbar sein.

Twitter erwägt Möglichkeiten, Missbrauch zu verhindern

Auch andere Social-Media-Plattformen erwägen Maßnahmen zur Missbrauchsbekämpfung.

Twitter ermittelt Möglichkeiten, Benutzern zu helfen, unerwünschte Aufmerksamkeit zu vermeiden. Das Benachrichtigungssystem des Unternehmens benachrichtigt einen Benutzer, wenn er direkt in einem Tweet markiert wurde. Die Funktion ist hilfreich, wenn der Tweet interessant ist. Aber missbräuchliche Inhalte können zu Cybermobbing führen.

Das Unternehmen hat angekündigt, verschiedene Möglichkeiten in Betracht zu ziehen, um Missbrauch zu verhindern, einschließlich der Möglichkeit, dass Benutzer sich selbst "verschweigen". Diese Fähigkeit würde es Benutzern ermöglichen, ihren Namen aus dem Tweet eines anderen zu entfernen, damit sie darin nicht mehr markiert werden und unerwünschte Kommentare in ihrem Feed verhindern.

Online-Missbrauch ist weit verbreitet. Eine aktuelle Umfrage des Pew Research Center fanden heraus, dass 41% der Amerikaner persönlich irgendeine Form von Online-Belästigung erlebt haben. Auf die Frage, wie gut diese Unternehmen auf ihren Plattformen mit Online-Belästigung oder Mobbing umgehen, gaben nur 18% an, dass Social-Media-Unternehmen hervorragende oder gute Arbeit leisten.

Roulet sagte, dass Missbrauch in sozialen Medien ein schwer zu behebendes Problem sei. Die ersten Anlaufstellen sind die missbrauchten Nutzer, die missbräuchliche Nachrichten melden können. Sobald ein Benutzer mehrfach gemeldet wurde, kann die IP-Adresse gesperrt werden.

„Wichtig ist, dass Social-Media-Unternehmen, die Daten über gemeldete Nachrichten sammeln, möglicherweise in der Lage sind, die Nachrichten zu automatisieren und zu verbessern Erkennung anstößiger Nachrichten durch maschinelles Lernen, mit dem Risiko, dass sie manchmal akzeptable Inhalte zensieren", Roulet hinzugefügt.

Mosseri sagte, Instagram würde "in Organisationen investieren, die sich auf Rassengerechtigkeit und Gerechtigkeit konzentrieren".

„Wir wissen, dass es noch mehr zu tun gibt, einschließlich der Verbesserung unserer Systeme, um missbräuchliche Inhalte schneller zu finden und zu entfernen und diejenigen, die sie veröffentlichen, zur Verantwortung zu ziehen“, schrieb Mosseri.