FacebookのDeepfakeTechは私たちを救わない、と専門家は言う

Facebookはそのことに自信を持っています ディープフェイクと戦うための機械学習モデル、しかし専門家は、機械学習だけではディープフェイクにだまされるのを防ぐことはできないと言います。

Facebook、Microsoft、Googleなどの企業 すべてがディープフェイクと戦うために働いています ウェブやソーシャルネットワーク全体に広がることから。 方法は異なりますが、これらの虚偽の動画を見つけるための1つの潜在的な絶対確実な方法があります。それはブロックチェーンです。

「[Blockchains]は、私が見ることができる最良の検証形式である方法でディープフェイクを検証する多くの可能性を提供します」と、の創設者兼CEOであるStephenWolfram氏は述べています。 Wolfram Research との作者 新しい種類の科学、電話でLifewireに語った。

FacebookのDeepfake-SpottingTech

ディープフェイクテクノロジーは、過去数年間で急速に成長しました。 誤解を招く動画では、機械学習手法を使用して、誰かの顔を他の人の体にスーパーインポーズしたり、背景の状態を変更したり、偽のリップシンクなどを行ったりします。 無害なパロディーから、有名人や公人に言わせたり、しなかったことをさせたりすることまで、さまざまなものがあります。

専門家によると、テクノロジーは急速に進歩しており、ディープフェイクは、テクノロジーがより広く利用可能になり、より革新的になるにつれて、より説得力のある（そして作成が容易になる）だけになるとのことです。

Facebookは最近、ミシガン州立大学と提携して、そのディープフェイク検出テクノロジーについてより多くの洞察を提供しました。 ソーシャルネットワークは、人工知能によって生成された単一の画像から、それを生成するために使用される生成モデルへのリバースエンジニアリングに依存していると述べています。

Facebookと協力した研究科学者は、この方法は、ディープフェイクを生成するために使用されるAIモデルの背後にある独自のパターンを明らかにすることに依存していると述べました。

「画像の帰属をオープンセット認識に一般化することで、 見られていないことを認識することを超えたディープフェイクを作成するために使用される生成モデル 前。 また、ディープフェイクのコレクションのパターン間の類似性を追跡することで、一連の画像が発生したかどうかを判断することもできました。 単一の情報源から」と、Facebookのブログ投稿で研究科学者のXiYinとTanHassnerがそのディープフェイクスポッティングについて書いています。 方法。

Wolframは、機械学習を使用して高度なAIモデル（ディープフェイク）を見つけるのは理にかなっていると言います。 ただし、テクノロジーをだます余地は常にあります。

「[ディープフェイクを検出する]適切な機械学習方法があることにまったく驚いていません」とWolfram氏は述べています。 「唯一の問題は、十分な努力を払ったら、それをだますことができるかということです。 きっとできると思います。」

別の方法でディープフェイクと戦う

代わりに、Wolframは、特定の種類のディープフェイクを正確に見つけるには、ブロックチェーンを使用することが最善の選択肢であると考えていると述べました。 機械学習よりもブロックチェーンを使用するという彼の意見は2019年にさかのぼり、最終的には、ブロックチェーンアプローチがディープフェイクの問題に対してより正確な解決策を提供できると述べました。

「画像と動画の視聴者は、ブロックチェーン（およびデータの三角測量）を定期的にチェックできると思います。 計算 '）Webブラウザがセキュリティ証明書をチェックする方法に少し似ています」とWolframは記事に書いています。 ScientificAmericanに掲載.

ブロックチェーンはデータをブロックに格納し、ブロックは時系列でチェーン化されるため、分散型ブロックチェーンは不変であるため、入力されたデータは元に戻せません。

Wolframは、ビデオをブロックチェーンに入れることで、かかった時間を確認できると説明しました。 場所、および他の場所で変更されたかどうかを判断できるその他のコンテキスト情報 仕方。

「一般的に、写真やビデオをコンテキスト化するメタデータが多いほど、伝えることができる可能性が高くなります」と彼は言いました。 「ブロックチェーンで時間を偽造することはできません。」

ただし、Wolfram氏によると、使用する方法は、機械学習であるかブロックチェーンを使用するかで、試行しているディープフェイクの種類によって異なります。 保護するため（つまり、キム・カーダシアンが愚かなことを言っているビデオ、または政治家が発言しているビデオ、または 提案）。

「機械学習画像処理が特定の種類のディープフェイクから保護するのと同じように、ブロックチェーンアプローチは特定の種類のディープフェイクから保護します」と彼は言いました。

肝心なのは、来たるべきディープフェイクの大洪水と戦うことになると、私たち全員にとって警戒しているようです。