死んだ親戚を模倣するAlexaの能力はこれまでで最も不気味なものかもしれません

Amazon Alexaの最新のギミックは、死んだ愛する人の声を模倣することを学ぶことです。そうすれば、彼らは墓の向こうからあなたに話しかけることができます。

Alexaは、説得力のある声を模倣するために、ほんの1分間の音声を必要とします。 アマゾンはそれを 慰めの機能 それはあなたを愛する人と連絡をとることができますが、それはまたかなり不気味な経験かもしれません。 そしてそれは、たとえ声が私たちがよく知っているものであったとしても、私たちをだますのに十分なディープフェイクオーディオを作ることがいかに簡単であるかを示しています。

「Amazonは間違いなく、Alexaがすぐに学び、死んだ親戚の声をすぐに使えるようになるという発表で、かなりユニークで奇妙な領域に入った」 ビル・マン、Restore Privacyのプライバシー専門家は、Lifewireに電子メールで語った。 「一部の人にとっては、まったく気味が悪いわけではありません。 実際、それはかなり感動的かもしれません。」

マシンのゴースト

毎年恒例のre：MARS会議の一環として、Amazonはこの機能を短いビデオで披露しています。 その中で、子供はアレクサに、おばあちゃんが彼に「オズの魔法使い」を読み続けることができるかどうか尋ねます。 パブリックドメインの仕事. そして、それは非常に感動的な瞬間です。 おばあちゃんが読み始めたとき、人間の感情を感じないようにするのは難しいです。

「特に西洋文化では、人間は死に苦しんでいます。 何世紀にもわたって、私たちはデスマスクから髪の毛、古い写真、古い映画の鑑賞まで、死者を追悼する方法を見つけようとしてきました。」 アンドリュー・セレパックフロリダ大学のソーシャルメディア教授は、Lifewireに電子メールで語った。 「ディープフェイクは最新のテクノロジーを使用して、亡くなった愛する人の新しいデスマスクを作成します。 しかし、見方によっては、気味が悪いのか、それとも、愛する人が亡くなった後、それを記念して抱きしめる方法なのか？」

しかし、メメント・モリは慰めと不気味の両方になる可能性があります。 家族の友人は亡くなりましたが、それでも彼らの話を聞くことができます。 Alexaが奇妙な、時には恐ろしい行動の歴史を持っていることは助けにはなりません。 の 2018年、NYTの意見コラムニストFarhadManjooが就寝しました、彼のアマゾンエコーは「ホラー映画の夢の中で子供が叫んでいるように、泣き始めました。」

その後すぐに、Amazonはそれを認めました Alexaは時々大声で笑いました、これは、10代の若者や地下室とともに、ホラー映画101です。

Alexaがおばあちゃんの声で同じトリックを引いた場合にどのように感じるか疑問に思うだけです。

ディープフェイク

Alexaが音声を模倣することを学ぶのは明らかな容易さであり、音声の複製のより悪質な使用法であるディープフェイクにつながります。

「ディープフェイクオーディオは、ほとんど理解されておらず、ほとんど知られていない場合でも、新しいものではありません。 このテクノロジーは、人工知能とディープラーニングを使用して、個人の実際の音声を比較的少なく使用して、個人の声を再現するために何年にもわたって利用されてきました」とSelepak氏は述べています。 「そのような技術はまた、危険で破壊的である可能性があります。 邪魔された人は、死んだ元カレやガールフレンドの声を再現し、新しい音声を使って憎しみや傷ついたことを言うことができます。」

それはAlexaのコンテキストにすぎません。 ディープフェイクオーディオはそれをはるかに超えて、たとえば著名な政治家が信じていないことを信じていることを人々に納得させる可能性があります。 しかし一方で、これらのディープフェイクに慣れるほど（おそらくこれらのAlexaの声の形で）、より悪質なフェイクに懐疑的になります。 繰り返しになりますが、Facebookに広めるのがいかに簡単かを考えると、おそらくそうではありません。

Amazonは、この機能がAlexaに搭載されるのか、それとも単なるテクノロジーデモなのかについては明らかにしていません。 そうなることを願っています。 テックは、このように人間的な方法で使用されたときに最高の状態になります。簡単な反応は、セレパックのように不気味と呼ぶことですが 怠惰な台本のテレビのキャラクターのように、古いビデオを見たり、保存されたボイスメールを聞いたりするのとそれほど違いはありません。 見せる。

そして、ディープフェイクの技術がすぐに利用できるのであれば、それを使って自分を慰めませんか？