AI はフェイクニュースの拡散を阻止するのに役立つ可能性がある

オンライン上では誤った情報が問題になっていますが、人工知能 (AI) のおかげで助けが得られるかもしれません。

研究によると 機械学習技術とブロックチェーン技術が、 フェイクニュースの蔓延. 新しいアプローチにより、コンテンツ作成者は、誤った情報が重大な社会的損害を引き起こす可能性が最も高い地域での偽情報との戦いに集中できるようになります。 専門家は言う 偽情報と戦う効果的な方法を見つける は最も重要です。

「私たちは情報に基づいて意思決定を行います。」 マンジート・レゲ、応用人工知能センター所長 セントトーマス大学 ライフワイヤーの電子メールインタビューで語った。 「したがって、消費者が本物の情報と偽物の情報を区別できない場合、誤った意思決定をしやすくなる可能性があります。 ソーシャルメディアの出現により、フェイクニュースは急速に広まり、一般大衆の反射的な反応を引き起こす可能性があります。」

AI はフェイクニュースを作成しているのか、それとも発見しているのか?

ビンガムトン大学経営学部の研究者が作成した論文では、機械学習システムの採用により、 コンテンツの潜在的な害を評価する 視聴者を監視し、最も悪質な犯罪者を特定します。 たとえば、新型コロナウイルス感染症のパンデミックのピーク時に、ワクチンよりも未検証の治療法を宣伝するフェイクニュースが確認されました。

「私たちがフェイクニュースを気にするのは、それが読者や視聴者に影響を与える危害を引き起こす場合です。 人々が害がないと認識すると、誤った情報を共有する可能性が高くなります」と、研究を主導した経営情報システム教授のティ・トラン氏はニュースリリースで述べた。 「被害は、視聴者が誤った情報の主張に従って行動するか、誤った情報を理由に適切な行動を拒否するかによって発生します。 誤った情報がどこに最も害を及ぼすかを特定する体系的な方法があれば、どこに焦点を当てて緩和すべきかを知るのに役立ちます。」

AIが発展し、より高度になるにつれて、個人が何が本物で何が偽物であるかを区別することが難しくなってきています。 サミール・ハジャルニス、最高製品責任者 ワンスパン、デジタル検証会社であることが電子メールに記載されています。

「たとえば、AIが生成したディープフェイクは、音声やビデオのフィッシングをさらに危険なものにする」と同氏は付け加えた。 「ソーシャルエンジニアリング攻撃を利用する犯罪者は増加しており、ディープフェイクによる脅威は現在広範囲に広がっています。」

で 最近の出来事, 英国の著名な消費者金融擁護者であるマーティン・ルイス氏は、イーロン・マスク氏による投資機会を支持したようです。 しかし、後にそのビデオが実際には AIが生成したディープフェイク、そしてその投資機会はルイスやマスクからの実際の支援がない詐欺であることが判明しました。

偽情報と戦うためのさまざまなアプローチ

ビンガムトン大学のアプローチは、フェイクニュースとの戦いを支援する唯一の方法ではありません。 その間 AIは偽造音声を生成できる そしてビデオ、 真正性の検出にも使用できますとレゲさんは言いました。

「実際、AIが生成したコンテンツの中には、人間の目には非常にリアルに見えるものもありますが、AIモデルによってかなり簡単に偽物であると識別できるものもあります」と同氏は付け加えた。

もう 1 つの方法は、暗号化、サイバーセキュリティの専門家、IEEE メンバーを使用して本人であることの証明を提供することです。 エールフォックス と電子メールインタビューで語った。 ビデオを録画してソーシャル メディアに投稿したい場合、最善の方法はビデオをエンコードすることです。 公開鍵.

「そこから、ビデオには鍵があるか、鍵がないかのどちらかになります」と彼は付け加えた。 「キーがエンコードされていれば、AI を使用しなくても、どのプラットフォームでも非常に簡単に検出できます。 ブラウザなど、事実上あらゆるデバイス上で実行できます。 ビデオが選出された携帯電話に投稿されている場合、その携帯電話にはキーがあり、検証テストに合格することになります。」

フェイクニュースは技術的問題であるだけでなく、政治的、文化的問題でもあります。 スブラマニアム・ヴィンセント、マークラ応用倫理センターのジャーナリズムおよびメディア倫理プログラムのディレクター サンタクララ大学とメールで述べた。

「それには、AI業界の関係者とニュースメディア企業の間での協力と合意形成が必要になるでしょう。 また、テクノロジーの上流の政治や選挙において民主主義文化への新たな推進力も生み出しています」と彼は述べた。 追加した。 「これらすべてにより、AI ツールがフェイク ニュースの配信を検出、ラベル付け、停止するために使用されるときに、悪意のある者が引き起こす避けられない反発に対抗することが容易になります。 アメリカやその他の地域における民主主義をめぐる戦いというより大きな混乱において、AI は強力な要素ではありますが、唯一の要素ではありません。」