ToxModが有毒なゲームチャットを修正する方法

ボストンを拠点とする企業は、機械学習を使用して、世界初の請求額を作成しています 音声ネイティブのモデレーションサービス。話している内容と話している内容の違いを知ることができます。 意味。

ToxMod インターネット上のオープンスペースをモデレートするというパラドックスを解決する試みです。 需要に追いつくのに十分な人間はいないが、アルゴリズム、フィルター、レポートシステムはニュアンスを理解していない。

ToxModのデータベースを使用すると、感情や音量などのプレーヤーのスピーチの要素を追跡できるため、瞬間的な失効と行動のパターンを区別するのに役立ちます。 最近、7v7アメリカンフットボールゲームへの追加として発表されました グリッドアイアン, 現在Steam早期アクセス中です。

「ボイスチャットやゲームでの嫌がらせ、悪意のある表現、毒性が大きな問題であることは誰もが知っています。 それは一般的に理解されています」と、最高技術責任者兼共同創設者であるカーターハフマンは述べています。 変調する、LifewireとのGoogleミーティングで。 「このさまざまな機械学習システムを通じて抽出した機能を利用でき、 それを、私たちが学んでいたこの専門知識をすべて考慮に入れたシステムに統合します。 コミュニティ。"

すべてが私たちの新しいロボットモデレーターを歓迎します

Modulateは昨年の秋からToxModに取り組んでおり、同社の3つのコアサービスの1つとして組み込んでいます。 また、機械学習を利用したボイス偽装者であるVoiceWearと、コミュニティの人々が話し合っていることをユーザーが確認できるアグリゲーターサービスであるVoiceVibeも提供しています。

ToxModがチャットで実行されている場合、Modulateの管理パネルを介してプログラムして、警告の発行、プレーヤーのミュート、音量の個別調整など、さまざまな自動アクションを実行できます。

Modulateのサーバーに確認を求める前に、ローカルインスタンスが最初にアクションを実行するトリアージシステムを使用します。 その後、最終的には、人間の介入を必要とする可能性のあるポイントまでエスカレートします。 Modulateが「トリアージゲート」と呼ぶ各チェックを順番に実行することで、ToxModがそのアイデアになります。 モデレーターの小さなチームに、はるかに大きなものを効果的にモデレートするためのツールを提供します コミュニティ。

「悲しい真実は、あなたがどんなプラットフォームでもボイスチャットを使おうとするという経験を誰もが経験したということです。 それを発見したのは悪い考えだった」と語った。 ライフワイヤー。 「入って言うことができるので、 『これは西部開拓時代ではありません。 ルールがあります。」それは本当に重要だと思います。」

システムを壊す

当然、ToxModについて尋ねる2番目または3番目の質問は、それをどのように壊すかです。

Twitterを管理するアルゴリズムなど、多くの自動モデレーションシステムを使用すると、嫌いな人と簡単に対戦できます。 いくつかの自作自演のアカウントでターゲットを大量に報告するだけで、彼らは確実に禁止令を食べます。

「ベースラインレベルでは、ToxModはこれらの追加のプレーヤーレポートに依存する必要はありません」とPappas氏は述べています。 「それでも、私たちが注意を払う必要のある犯罪について確実な見積もりを出すことができます。 ゲームするものは実際には何もないので、プレイヤーがシステムをゲームしようとしていることを心配する必要はありません。

「プレーヤーとしてコントロールできるのは自分のオーディオだけです」とPappas氏は続けます。 「あなたができる最悪のことは、人の悪さを減らすことです。そのため、私たちはあなたを悪役としてフラグを立てません。これは、ミッションの成功に近いものだと思います。」

したがって、一般的に、ToxModの背後にある考え方は、積極的な再生の試みです。 この時点で、多くのプレーヤーは、ランダムな侮辱から積極的な脅威に至るまで、オープンボイスチャネルでランダムな見知らぬ人から何らかの形の嫌がらせを経験しています。 その結果、ゲーマーは一般的にボイスチャットを敬遠する傾向があり、自分の安心と引き換えにその利便性を放棄することを好みます。

「私たちが期待しているのは、見つけられて削除されるまでのボイスチャットに費やす時間がはるかに少ないことです」とPappas氏は述べています。 「それは単なる直線的な影響以上のものを持っています。 誰もがボイスチャットをより安全な場所と見なしているとき、より多くの優れた俳優がボイスチャットに戻って試してみる用意があります。 すべてが前向きな方向に渦巻くことができると思います。」