AIがあなたの会話をスパイしている可能性があります

多くのプログラムは電話やビデオ通話中のあなたのスピーチを理解することができ、専門家はそれらがプライバシーの脅威をもたらすかもしれないと言います。

コロンビア大学の研究者によって開発された新技術 ニューラルボイスカモフラージュ、防御を提供する場合があります。 話すときにバックグラウンドでカスタムオーディオノイズを生成し、音声を聞いて転写する人工知能（AI）を混乱させます。

「AI転写の存在は信頼の問題を引き起こします」 マイケル・フート、プライバシー保護検索エンジンであるXaynの共同創設者であり、調査に関与していなかったインペリアルカレッジロンドンのコンピューティング部門の責任者は、Lifewireに電子メールのインタビューで語った。 「会議の参加者は、どのポイントを上げるか、どのようにスピーチが書き起こされるかについて、より注意を払う可能性があります。 これは、敬意を表する行動を改善する可能性があるため、良いことかもしれませんが、使用されているテクノロジーに関する予約のために会話があまり開かれない可能性があるため、悪いことになる可能性もあります。」

聞くことと学ぶ

コロンビアの研究者たちは、ニューラルネットワークをリアルタイムで破壊できるアルゴリズムの設計に取り組みました。 新しいアプローチでは、「予測攻撃」を使用します。これは、自動音声認識モデルが文字起こしするようにトレーニングされている単語を混乱させる可能性のある信号です。 さらに、攻撃音が空中で再生される場合、遠くにある可能性のある不正な「リスニングイン」マイクを妨害するのに十分な大きさである必要があります。

「これを達成するための重要な技術的課題は、すべてを十分に高速に動作させることでした。」 カール・フォンドリック、コロンビアのコンピュータサイエンスの教授であり、新しいアプローチを説明する研究の著者の1人は、ニュースリリースで述べています。 「不正なマイクが80％の確率であなたの言葉を正しく聞くのを阻止することができる私たちのアルゴリズムは、私たちのテストベッドで最も速く、最も正確です。」

新しい手法は、信号または単語の将来への攻撃を予測することにより、リアルタイムのパフォーマンスを実現します。 チームは攻撃を最適化したので、通常のバックグラウンドノイズと同様の音量になり、 自動音声認識によって正常に監視されることなく、自然に会話する余地 システム。

科学者たちは、彼らの技術は、その場所や、その上で実行されているコンピューターソフトウェアなど、不正なマイクについて何も知らなくても機能すると述べました。 それは、無線で人の声をカモフラージュし、これらのリスニングシステムからそれを隠し、部屋の人々の間の会話を不便にすることなく行います。

「これまでのところ、私たちの方法は英語の語彙の大部分で機能し、適用する予定です より多くの言語でのアルゴリズム、そして最終的にはささやき声を完全に鳴らします 知覚できない」 ミア・チキエ研究の筆頭著者であり、フォンドリックの研究室の博士課程の学生である、はニュースリリースで述べた。

会話をプライベートに保つ

それだけでは不十分であるかのように、スマートフォンやスマートホームデバイスから収集された音声に基づいて広告があなたをターゲットにしている可能性もあります。

「[AmazonEcho]のようなデバイスとそれに対応するデバイスを使用すると、これらのデバイスは常に家にあり、あなたの言うことや行うことすべてを常に聞いているだけでなく、何年にもわたって ユーザーからのデータ収集—自然言語処理を完成させました（マイク、ソフトウェア、AIの組み合わせを介して、話し言葉をテキスト/デバイスで使用可能なデータに変換します）。」 エリック・ハイグ戦略コンサルティングおよびベンチャー開発会社であるハーバーリサーチのアソシエイトは、電子メールで述べた。

会話音声のAI転写は、現在、標準的な商用ソフトウェアの標準的な部分であるとHuth氏は述べています。 たとえば、Microsoft Teamsには、すべての参加者がリアルタイムで表示できるAI文字起こしが組み込まれたレコード会議オプションがあります。 完全なトランスクリプトは、会議の記録として使用できます。 通常、そのようなトランスクリプトは議事録（別名メモ取り）を許可し、議事録は次の会議で承認されます。

「人々は、AIの文字起こしがオンになっているときにスパイされることを心配しているかもしれません」とHuth氏は付け加えました。
「これは、同意なしに、または秘密裏に会話を録音することの懸念と非常に似ているようです。」

しかし、スマートデバイスが脅威であることに誰もが同意しているわけではありません。 ほとんどの人はあなたの会話を聞いているプログラムについて心配する必要はありません、 ブラッドホン、サイバーセキュリティ会社Horizo​​n3のカスタマーサクセスリードは、Lifewireに電子メールで語った。 彼は、現在最も重要な懸念は、誰があなたを記録しているのかではなく、彼らがデータをどのように保存しているかということだと述べました。

「コンピューターまたはモバイルデバイスのマイクがアクティブ化されていること、AlexaまたはGoogleHomeについて聞くすべての話 耳を傾ける、あるいは政府の監視さえも、これらすべてが素人の胃をかき乱すのは事実だ」とホン氏は付け加えた。 「しかし、全体として、人々が実際に自分の声をカモフラージュする必要がある状況にあることはめったにありません。」