偽のビデオは簡単で、深いノスタルジアショー

専門家は、実在の人物のビデオをシミュレートできる、いわゆる「ディープフェイク」を作成できる新しいソフトウェアに注意してください。

深い郷愁、会社からリリース 私の遺産はソーシャルメディアで流行しており、ユーザーは有名な作曲家から亡くなった親戚まで全員を蘇らせています。 ソフトウェアはさまざまな反応を示しており、一部の人々は創造物に喜んでおり、他の人々は それらを不気味に見つける. このテクノロジーは、実際には行っていないことをしている人々の動画を簡単に作成できることを示しています。

「ディープフェイクテクノロジーはますます洗練され、より危険になっています」と、SRIインターナショナルのアシスタントディレクターであるアーロンローソンは述べています。 音声技術研究（STAR）研究所、電子メールのインタビューで言った。 「これは部分的に人工知能の性質によるものです。 「従来の」テクノロジーを改善するために人間の時間とエネルギーが必要な場合、AIはそれ自体から学ぶことができます。

「しかし、AIが自らを成長させる能力は、両刃の剣です」とローソン氏は続けます。 「AIが何か慈悲深いことをするために作られているのなら、それは素晴らしいことです。 しかし、AIがディープフェイクのような悪意のあるもののために設計されている場合、その危険性は前例のないものです。」

ソフトウェアが写真に命を吹き込む

系図のウェブサイトMyHeritageは先月アニメーションエンジンを紹介しました。 Deep Nostalgiaとして知られるこのテクノロジーにより、ユーザーはMyHeritageWebサイトを介して写真をアニメーション化できます。 D-IDと呼ばれる会社は、人間の顔の動きをデジタルで再現するMyHeritageのアルゴリズムを設計しました。 MyHeritageのウェブサイトによると、ソフトウェアは写真に動きを適用し、人間の顔が通常行うように動くように顔の表情を変更します。

カンザス州立大学のコンピューターサイエンス教授であるLiorShamir氏は、電子メールのインタビューで、ディープノスタルジアはディープフェイク技術がより利用しやすくなっていることを示しています。 それは急速に進行し、偽物と本物のビデオとオーディオの微妙な違いさえも排除します。

「リアルタイムのディープフェイクに向けた実質的な進歩もありました。つまり、ビデオ通信時に説得力のあるディープフェイクビデオが生成されます」とShamir氏は述べています。 「たとえば、まったく別の人の声を見たり聞いたりしながら、特定の人とズーム会議を行うことができます。」

言語ベースのディープフェイクの数も増えています、ジェイソンコルソ、のディレクター スティーブンス工科大学 スティーブンス工科大学で、電子メールのインタビューで言った。 「特定の議事に向けてディープフェイクテキストの段落全体を生成することは非常に困難ですが、ディープ自然言語処理の最新の進歩によりそれが可能になっています」と彼は付け加えました。

ディープフェイクを検出する方法

ディープフェイク検出技術はまだ初期段階にありますが、口から始めて、それを見つける方法はいくつかあるとコルソ氏は言います。

「誰かが話しているときの口の中の外観のばらつきが非常に大きく、説得力のあるアニメーションを作成するのが困難です」とCorso氏は説明します。 「それは可能ですが、頭の他の部分よりも難しいです。 ディープノスタルジアの動画では、ディープフェイクの作成中に、写真が「愛しています」などのフレーズを表現する能力が示されていないことに注目してください。 そうすることは口の開閉を必要とし、それはディープフェイクの生成にとって非常に困難です。」

ゴースティングは別の景品である、とコルソは付け加えました。 頭のエッジの周りにぼやけが見られる場合は、「ソース画像で利用できる動きが速いか、ピクセルが限られていることが原因です。 耳が一瞬消えたり、髪の毛がぼやけたりすることもある」と語った。

また、顔全体に鋭い線があり、片側が暗い色で反対側が明るいような、ディープフェイクのビデオを見つけようとするときに、色の変化に注意することもできます。

「コンピューターのアルゴリズムは、これらの歪みのパターンを検出できることがよくあります」とShamir氏は述べています。 「しかし、ディープフェイクアルゴリズムは急速に進歩しています。 ディープフェイクとそれが簡単に引き起こす可能性のある損害から保護するために、厳格な法律が必要になることは避けられません。」