AI 音声詐欺が、おそらく電話に出てはいけないことを意味する理由

家族や親しい友人から電話を受けることを想像してみてください。 彼らは困っていて、お金が必要なのです。 番号がチェックアウトされます。 それは彼らの声です。 しかし、それは彼らではありません。 それはAIになりすました詐欺師です。

によると マカフィーからのレポート、これらの AI 音声詐欺は、AI なりすましのおかげで増加しています。 そして、それらは何らかの形で永遠に存在し続けていますが、テクノロジーのおかげで、この詐欺は特に説得力のあるものになっています。 発信者 ID のなりすましと AI 音声クローンの組み合わせは、おそらくほとんどの人を納得させるでしょう。 では、どのように機能するのでしょうか? そしてどうすれば自分自身を守れるのでしょうか？

「AI音声生成が非常に急速に進歩しているのは事実です。 イレブンラボの音声クローン技術 特に、それを機能させるために必要なデータ量が少ないことを考慮すると、これは非常に優れています。 特に感情が高まった状態にある場合、人々がだまされる可能性がある状況がわかります」と AI コンサルタント リチャード・バット ライフワイヤーに電子メールで語った。

音声クローンが AI 音声詐欺につながる

詐欺師は複製された音声を使って電話をかけ、すでに知っている誰かになりすますことができます。 たとえば、4月にはこんなことがありました。 母親が騙された話 AIでクローン化した音声を使った偽の娘誘拐事件。

そのようなことが可能であることさえまったく信じられないように思えますが、私たちの不信感がこれらの詐欺をさらに効果的にする可能性があります。

それで、それはどのように機能するのでしょうか？ 音声のクローンを作成するには、元の音声を録音する必要があります。 TikTok や Instagram ビデオのおかげで、大量のトレーニング データが世に出ています。 また、ソーシャル ネットワークへの投稿は、より説得力のある詐欺を行うために使用される、人々との関係に関する他の多くのデータを漏洩します。

現状でもまだまだ努力のレベルは高いです。 ターゲットを選択し、音声サンプルを見つけて複製し、途中で発信者番号を偽装しながら電話をかける必要があります。 しかし、私たちが何か知っているとすれば、詐欺師はますます巧妙になる可能性が高いということです。

「AI 音声詐欺は、公共のインターネット ソースからデータを取り込むことで、ターゲットの高度にパーソナライズされたプロファイルを構築するように調整できます。 ソーシャル エンジニアリング ツールキットは何年も前から存在しており、現代のサイバー犯罪者が標的の被害者に関する情報を集約するために容易に使用しています。 現代のサイバー犯罪者とは異なり、AI はまったく疲れたり落胆したりすることがなく、言うまでもなく、ほぼあらゆる音声や言語を合成できます。」 ジェームズ・レオーネ、サイバーセキュリティコンサルタント IBMと電子メールでLifewireに語った。

そして、詐欺は偽の誘拐未遂である必要はありません。 AI チャットボットが銀行からのふりをしてあなたに電話をかけてくる可能性もあります。 これは、ナイジェリアの王子が国外にお金を持ち出そうとした古典的な電子メール詐欺である 419 詐欺の自動化レベルに近いものです。 電話をかける人が必要ない場合は、音声通話スパムが世界にあふれる可能性があります。

「最大の危険は、この種の詐欺がいかに簡単かつ低コストで行われるかということです。 以前は、この種の偽造には対象の音声 (またはビデオ) が 10 時間必要でしたが、現在では技術が急速に進歩しているため、誰でも必要なのはわずか 10 秒の音声だけです。」 リジュル・グプタ、CEO兼共同創設者 ディープメディアディープフェイク作成・検出会社である同社が電子メールでLifewireに語った。

AI 音声クローン詐欺から身を守ることはできますか?

これらの詐欺のハイテクな性質にもかかわらず、電話詐欺から身を守る方法はあまり変わっていません。

まず、発信者番号を信頼すべきではありません。 その場合は、必ず電話を切って、すでに持っている番号に掛け直すか、自分で調べてください。

これにより、ほぼすべての「通常の」詐欺に対処できますが、クローン音声詐欺に対しても効果的であるはずです。 問題はソーシャルエンジニアリングの要素です。 発信者番号を見て配偶者の声が聞こえると期待し、音声クローンが良好で夫の声に似ているのであれば、納得するかもしれません。 現時点では、モデルは優れていますが、それほど優れているわけではありません。

「これらのモデルではまだ現実的なトーンの変化が可能ではないことを理解することが重要です。 トーンだけを必要とする音声の小さなクリップは人々を騙す可能性がありますが、長いクリップはおそらく騙さないでしょう」とバット氏は言います。

しかし、現在の AI 開発のスピードを考えると、音声クローン詐欺は今後もさらに悪質になるでしょう。そのため、私たちは注意し、知らない番号からの電話を受けるのはやめたほうがよいでしょう。