Apple の Live Voice 機能が音声クローン詐欺にどのように悪用されるのか

iPhone と iPad では間もなく自分の声を複製できるようになるが、専門家はこの新機能によりディープフェイクがさらに増える可能性があると述べている。

新しいパーソナルボイス機能 ユーザーのような音声を作成します。 これは、話すことができない、または話す能力を失う危険があるユーザーを対象としています。 しかし、このテクノロジーは混乱を引き起こす可能性もあります。

「これはすぐにどこでもディープフェイクの沼になる可能性があります。」 ヴィノッド・アイアンガー、AI 専門家および製品責任者 サードAIとLifewireの電子メールインタビューで語った。 「問題に直面する音声生体認証ベースの認証システムは数多くあります。 誰かが音声クローンを使用して銀行口座に不正アクセスした場合はどうなるでしょうか? あるいは、誤った情報を広めるためにそれを使用します。」

あなたの声、再現される

iPhone または iPad で 15 分間の音声を録音するために、ランダム化された一連のテキスト プロンプトを読み上げてパーソナル ボイスを作成できます。 この機能は、オンデバイスの機械学習を使用して、ユーザーの情報をプライベートに保ちます。

「結局のところ、最も重要なことは、友人や家族とコミュニケーションできることです。」 ALSと診断されて以来、声に大きな変化を経験したフィリップ・グリーンさんはこう語った。 の Appleのニュースリリース. 「あなたに似た声で愛していると伝えることができれば、それはあなたの人生に大きな違いをもたらします。 そして、わずか 15 分で iPhone で合成音声を作成できるのは驚異的です。」

音声クローン詐欺のツール?

Personal Voice のような音声クローン技術は、同意や許可なく誰かの声を悪用する可能性に関して倫理的な問題を引き起こします。 タイラー・スウェット、テクノロジー企業の最高収益責任者 第二戦線とメールで述べた。

「音声クローンを使用すると、本物のように見える捏造された音声コンテンツを作成でき、本物の音声録音と偽物の音声録音を区別することが難しくなります」と彼は付け加えた。

音声クローン詐欺 が増加しています。 専門家は警告する このテクノロジーは悪意のある目的に使用される可能性があります、個人情報の盗難、詐欺電話、フィッシングメールなど。 犯罪者はAIを利用して他人になりすまし、被害者をだまして金銭や個人情報を渡します。

詐欺師は音声を複製できる 友人、家族、上司、権威者に電話をかけ、お金や助けを求める緊急の要求を伝えます。 あるいは、詐欺師が顧客、サプライヤー、パートナーの声を複製し、電子メールや電話で偽の請求書や支払い要求を送信する可能性があります。 2021年、カナダの少なくとも8人の高齢者が合計20万ドルを失った 明らかな音声クローン詐欺で.

iPhone の新しい音声クローン技術は、予期せぬ結果を引き起こす可能性があるとアイアンガー氏は述べた。 同氏は、iPhoneでの通話が訴訟の証拠としてよく使われると指摘した。

「その地域全体は現在地雷原であり、すぐに裁判所は音声録音を証拠として認めなくなるかもしれない。音声録音は簡単に偽造できる可能性があるからである」と彼は付け加えた。

Personal Voice はフィクションと現実の境界線を曖昧にする可能性があります。 アイアンガー氏は、音声クローンをAIチャットボットと組み合わせて、全員の「パーソナルスタントダブル」として機能させることができると示唆した。

クローン化された音声は「その人を代表し、その人に代わって次のようなタスクを実行することができます」 約束、電話への応答、さらには台本を読む必要があるビデオ録画まで。」 アイアンガー氏は語った。

あなたの声が複製されて他人に使用された場合、法制度があなたを保護してくれるかどうかはわかりません。 米国の「パブリシティの権利」法は、有名人やその他の有名人に自分の名前、画像、声の使用についてある程度のコントロールを与えています。 ハイディ・マッキーの教授 マイアミ大学とメールで述べた。 そして、法執行官や連邦職員になりすますことは違法であると彼女は指摘した。

「しかし、こうした保護はすべての米国国民に適用され、個人が救済を求めやすいような形で適用されるのでしょうか?」 マッキーは言いました。 「法律や規制はその点についてあまり明確ではありません。 すでに誤った情報やディープフェイクが溢れていますが、音声クローンの使用は、特にビデオフェイクと組み合わせた場合、それらの問題を拡大するだけです。」