AIはついにヘイトスピーチの取り締まりに役立つ可能性があります

として オンラインの悪意のある表現が増える、ある会社は、人間のモデレーターに依存しないソリューションがあるかもしれないと言います。

と呼ばれるスタートアップ スペクトラムラボ 人工知能技術をプラットフォームプロバイダーに提供し、有毒な交換をリアルタイムで検出してシャットダウンします。 しかし専門家は、AIモニタリングもプライバシーの問題を引き起こすと言います。

「AIモニタリングでは、多くの場合、時間の経過とともにパターンを調べる必要があり、データを保持する必要があります。」 デビッドムーディ、セキュリティおよびプライバシーコンプライアンス評価会社であるSchellmanのシニアアソシエイトは、電子メールのインタビューでLifewireに語った。 「このデータには、法律でプライバシーデータとしてフラグが立てられたデータ（個人を特定できる情報またはPII）が含まれる場合があります。」

より多くのヘイトスピーチ

Spectrum Labsは、ヘイトスピーチという長年の問題に対するハイテクソリューションを約束します。

「平均して、プラットフォームがコンテンツのモデレーション作業を50％削減し、有毒な動作の検出を10倍に増やすのを支援します」と同社は述べています。 そのウェブサイト上の主張.

スペクトラムは、特定の有害な行動に関する専門知識を持つ研究機関と協力して、40を超える行動識別モデルを構築したと述べています。 同社のGuardianコンテンツモデレーションプラットフォームは、データサイエンティストとモデレーターのチームによって構築され、「コミュニティを毒性から保護することをサポート」しています。

人間がすべてのオンライントラフィックを監視することは不可能であるため、ヘイトスピーチと戦う方法の必要性が高まっています。 ディラン・フォックス、音声認識を提供し、ヘイトスピーチの監視に顧客を関与させるスタートアップであるAssemblyAIのCEOは、電子メールのインタビューでLifewireに語った。

「Twitterだけでも1日に約5億件のツイートがあります」と彼は付け加えました。 「1人が10秒ごとにツイートをチェックできたとしても、Twitterはこれを行うために6万人を雇用する必要があります。 代わりに、AIなどのスマートツールを使用してプロセスを自動化します。」

人間とは異なり、AIは24時間年中無休で動作でき、個人的な信念が干渉することなくすべてのユーザーにルールを均一に適用するように設計されているため、より公平になる可能性があります。 コンテンツを監視および管理する必要がある人にもコストがかかります。

「彼らは暴力、憎悪、そして愚かな行為にさらされる可能性があり、それは人の精神的健康に害を及ぼす可能性があります」と彼は言いました。

オンラインの悪意のある表現を自動的に検出しようとしているのはSpectrumだけではありません。 例えば、 センターマレーシアは最近オンライントラッカーを立ち上げました マレーシアのネチズンの間で悪意のある表現を見つけるように設計されています。 彼らが開発したソフトウェア（Tracker Benciと呼ばれる）は、機械学習を使用して、オンライン、特にTwitterで悪意のある表現を検出します。

プライバシーの問題

Spectrumのような技術ソリューションは、オンラインのヘイトスピーチと戦う可能性がありますが、コンピューターが実行する必要のあるポリシングの量についても疑問を投げかけます。

言論の自由には影響がありますが、悪意のある表現として投稿が削除されるスピーカーだけではありません。 イリーナ・ライク、サンタクララ大学のMarkkula Center for Applied Ethicsのインターネット倫理担当ディレクターは、Lifewireに電子メールのインタビューで語った。

「「言論の自由」の名の下に嫌がらせを許可することは、そのような言論の標的を駆り立てました（特に 特定の個人を対象とした）話すのをやめる—さまざまな会話やプラットフォームを完全に放棄する」 言った。 「課題は、人々が実際に建設的に関わり合うことができるスペースをどのように作成するかです。」

フォックス氏によると、企業が監視中に公開されている情報を使用する場合、AI音声監視によってプライバシーの問題が発生することはないという。 ただし、問題のあるユーザーを事前に特定するためにユーザーが他のプラットフォームでどのように対話するかについての詳細を会社が購入した場合、プライバシーの懸念が生じる可能性があります。

「アプリケーションによっては、間違いなく少し灰色の領域になる可能性があります」と彼は付け加えました。

Spectrumは、AIアプリケーションに関して提出された質問に対する回答をすぐには提供しませんでした。

私たちは、オンラインで人間の音声とテキストを監視するAIの革命の最前線にいる可能性があります。 ムーディー氏によると、将来の進歩には、これまで知られていなかったヘイトスピーチやその他の検閲可能なパターンを特定するための、より優れた独立した自律的な監視機能が含まれます。

AIはまた、特定の音声パターンのパターンをすぐに認識し、ソースと他のソースを関連付けることができるようになります ニュース分析、公開ファイリング、トラフィックパターン分析、物理的監視、およびその他の多くのオプションによる活動、 彼が追加した。

しかし、一部の専門家は、ヘイトスピーチを監視するために、人間は常にコンピューターを操作する必要があると述べています。

「AIだけではうまくいかない」とライク氏は語った。 「それは、他の応答と組み合わせて使用​​されなければならない1つの不完全なツールとして認識されなければなりません。」