AI 音声クローン作成が詐欺師を助ける - 自分の身を守る方法は次のとおりです
- AI音声クローン詐欺は深刻な問題となっています。
- 簡単に入手できるソフトウェアを使用すると、詐欺師は人の声を真似ることができます。
- 発信者の身元を確認することで自分自身を守ることができます。
テロ・ヴェサライネン/ゲッティイメージズ
大切な人が困っていると称する電話には注意してください。
連邦当局者は言う 詐欺師が使っている 洗練された家庭用緊急詐欺や企業詐欺を実行するための音声クローン ソフトウェア。 これは、人工知能（AI）を利用した犯罪という増大する問題の一環だ。
「音声合成の最新の進歩により、VALL-E のようなシステムは、見えない話者のわずか 3 秒の登録録音で高品質の音声クローンを作成できます。」 ビジェイ・バラスブラマニヤン、サイバーセキュリティ会社のCEO ピンドロップ ライフワイヤーの電子メールインタビューで語った。
AI音声クローン詐欺の仕組み
AI 音声クローン詐欺は、多くの場合、家族らしき人物からの電話から始まります。 詐欺師は、あなたの愛する人が困っていて、交通事故や病院の費用などの緊急事態に備えてお金が必要だと言います。 実際、電話の相手は音声複製ソフトウェアを使用している見知らぬ人です。
「人工知能はもはや SF 映画の中の突飛なアイデアではありません。 私たちは今もこの問題とともに生きています」とFTCはウェブサイトに書いている。 「詐欺師は AI を使ってあなたの愛する人の声を複製する可能性があります。 彼に必要なのは、家族の声の短いオーディオ クリップ (オンラインに投稿されたコンテンツから入手できる) と、音声クローン プログラムだけです。 詐欺師があなたに電話をかけると、まるであなたの愛する人のように聞こえるでしょう。」
音声クローンを使用すると、ユーザーは個人の固有の音声パターンを再現できます。 ただし、それは諸刃の剣でもあり、 タマス・カダール、詐欺防止会社のCEO セオンとメールで述べた。 このテクノロジーが悪者の手に渡った場合、危険が生じます。
「悪意のある個人が音声クローンを使用して他者を欺き、操作し、搾取する可能性があり、深刻な感情的および経済的損害を引き起こす可能性があります」とカダール氏は付け加えた。 「音声クローン作成ソフトウェアがよりアクセスしやすく、手頃な価格になり、邪悪な可能性が詰まったパンドラの箱が開かれる中、これは特に憂慮すべきことです。」
音声クローンを利用した詐欺は家族の緊急事態だけではありません。 カダール氏によると、もう1つのよくある詐欺は、詐欺師が家族や親しい友人になりすまして、通常、事故や緊急事態のために経済的支援が必要だと主張するものだという。 「被害者は愛する人を助けていると思って送金したが、後でそれが詐欺だったことが判明した」と同氏は付け加えた。
もう 1 つの詐欺は CEO 詐欺です。これは、詐欺師が企業幹部の声を複製して従業員に連絡し、資金を送金したり機密情報を開示するよう要求したりするものです。 従業員は上司の命令に従っていると思い、知らず知らずのうちに詐欺を実行してしまいます。
祖父母は音声クローン詐欺に対してますます脆弱になっており、 スティーブン J.J. ワイズマン個人情報盗難の専門家である同氏は電子メールインタビューで語った。 詐欺師は孫の声の録音をソーシャル メディアから入手し、AI テクノロジーを使用して複製することができます。
レインスター/ゲッティイメージズ
彼は次のケースを指摘した 騙されたカナダのルース・カードさん AI 音声クローン技術を使用して孫からかのように見せかける電話をかけた詐欺師によって 3,000 カナダ ドルが支払われました。 電話の主は、孫が刑務所に入っており、すぐに保釈金が必要だと語った。
「必要なのは、AI音声生成ソフトウェアと、わずか30秒相当の孫の音声だけだ」とワイズマン氏は語った。
音声クローン詐欺を発見する
個人情報や金融情報を要求する一方的な電話に注意することで、AI 音声クローン詐欺から身を守ることができます。 FTC によると、詐欺師は、返金が困難な方法で支払いや送金を要求することがよくあります。 発信者が電信送金、暗号通貨の送金、またはギフトカードの購入を要求し、カード番号と PIN を伝えた場合、それらは詐欺の兆候である可能性があります。
バラスブラマニヤン氏は、感情操作や高圧的な戦術にさらされている場合は危険信号だと述べた。 「このような状況でユーザーが助けなければならないと感じた場合は、電話を切り、既知の電話番号を使用して連絡先に独立して電話をかけ直してください」と同氏は付け加えた。
将来的には、AI詐欺を検出する方法が登場するかもしれません。 「企業は音声クローンを検出する技術を開発している」とバラスブラマニヤン氏は語った。 「これらの検出技術は、人間の声の生成と進化に関する知識を利用して、声がいつ発声されるかを判断します。 問題の音声の物理的解剖学的構造を再作成し、その異常を判断することによってクローンを作成します。 スピーチ。」