ソーシャルメディア企業が虐待を止めようとしている方法

ソーシャルメディア企業は、自社のプラットフォームでの虐待の継続的な問題を取り締まろうとしています。

Instagramは最近言った 写真やビデオを共有するソーシャルネットワーキングサービスでの不要なコメントやダイレクトメッセージを簡単に防ぐことができます。 ユーザーは、不快なコンテンツを自動的に除外し、特定のユーザーからのコメントやダイレクトメッセージリクエストを非表示にできるようになりました。

「ソーシャルメディア企業が虐待的なメッセージを取り締まらなければ、彼らは虐待的になるだけです ユーザーがお互いを悪用し、実際にソーシャルメディアコンテンツを合理的に消費する人は誰もいない ファッション、" ケンブリッジ大学教授、トーマス・ルーレ ソーシャルメディアの問題を研究している人は、電子メールのインタビューでLifewireに語った。

「彼らは基本的に、長期的には善良で価値のあるユーザーを失うでしょう。」

攻撃は横行しています

スポーツは、ソーシャルメディア攻撃の最近のフラッシュポイントとなっています。 ユーロ2020決勝戦の後、チームの敗北に続いて、怒っているファンがInstagramでイングランドのサッカー選手を攻撃しました。 人種差別的なコメントや絵文字を含む事件は、プラットフォームへの攻撃を防ぐためのInstagramユーザーの無力さにスポットライトを当てました。 モデルのChrissyTeigenは、プラットフォームでの不正使用を訴えた後、3月にTwitterアカウントを削除しました。

「この機能を開発したのは、クリエイターや著名人が、知らない人からのコメントやDMリクエストの急増を経験することがあるためです」と、Instagramの責任者であるAdamMosseri氏は述べています。 ブログ記事に書いた.

Instagramの新しい制限機能は、忙しい時間帯に誰とやり取りできるかをユーザーが選択できるようにすることで、悪用を防ぐことを目的としています。 ユーザーは、自分をフォローしていないアカウントと最近のフォロワーに属するアカウントの制限をオンにすることができます。 制限が有効になっている場合、これらのアカウントは指定された期間、コメントを投稿したり、DMリクエストを送信したりできません。

不要なDMリクエストからユーザーを保護するために設計されたHiddenWordsと呼ばれる別のInstagram機能も拡張されています。 非表示の単語は、不快な単語、フレーズ、絵文字を含むリクエストを自動的にフィルタリングします。 フィルタは、見たくないものを隠しフォルダに入れ、そこで見たいかどうかを決定できます。 また、スパムである可能性が高いか、そうでなければ低品質であるリクエストを除外します。

モセリ氏によると、インスタグラムは、絵文字の文字列を含む新しいタイプの不快な言葉で隠し言葉データベースを更新し、それらをフィルターに含めたという。 この機能は一部の国でリリースされており、月末までに世界中で利用できるようになります。

Twitterは虐待を防ぐ方法を検討している

他のソーシャルメディアプラットフォームも虐待防止策を検討しています。

Twitterは調査中です ユーザーが不要な注意を防ぐのに役立つ方法。 同社の通知システムは、ユーザーがツイートで直接タグ付けされたときにユーザーに警告します。 この機能は、ツイートが興味深い場合に役立ちます。 しかし、虐待的なコンテンツはネットいじめにつながる可能性があります。

同社は、ユーザーに自分自身を「言及」させるなど、悪用を防ぐためのさまざまな方法を検討していると述べています。 この機能により、ユーザーは他のツイートから自分の名前を削除できるため、タグが付けられなくなり、不要なコメントがフィードに表示されなくなります。

オンラインでの虐待は一般的です。 最近のピュー研究所の調査 アメリカ人の41％が個人的に何らかの形のオンライン嫌がらせを経験していることがわかりました。 これらの企業が自社のプラットフォームでのオンラインの嫌がらせやいじめにどれだけうまく対処しているかを評価するように求められたとき、ソーシャルメディア企業は優れたまたは良い仕事をしていると答えたのはわずか18％でした。

ルーレット氏は、ソーシャルメディアでの虐待は修正が難しい問題だと述べた。 最初の連絡先は、悪用されたメッセージを報告できる悪用されたユーザーです。 ユーザーが複数回報告されると、IPアドレスを禁止できます。

「重要なことに、ソーシャルメディア企業は報告されたメッセージに関するデータを蓄積するので、自動化して改善できる可能性があります。 機械学習を使用した不快なメッセージの検出。許容できるコンテンツを検閲するリスクがあります。」Roulet 追加した。

モセリ氏は、Instagramは「人種的正義と公平性に焦点を当てた組織に投資する」と述べた。

「私たちは、虐待的なコンテンツをより迅速に見つけて削除するためのシステムの改善や、それを投稿した人に責任を負わせることなど、やるべきことがもっとあることを知っています」とモセリは書いています。