AI によって生成されたテキストがより一般的になってきています。それが悪いことである理由は次のとおりです

人工知能（AI）が生成した文章と人間が生成した文章の違いを見分けるのがますます難しくなっている。

良いニュースは、人々が AI によって生成されたテキストと人間が書いたテキストの違いを見分ける方法を学習できることを示す新しい論文です。 コンピューターがオンライン情報を作成しているかどうかを判断する機能は、 ChatGPT のような大規模な言語モデルは、私たちの言語のほぼ隅々まで影響を与えると多くの人が予測しています。 生きています。

「祖母が医療処置のために緊急に資金が必要であることを示唆するテキスト メッセージを受信した場合、それが集団 AI 詐欺によるものなのか、それとも本物の家族によるものなのか知りたいと思うでしょう。」 遠山健太郎、コミュニティ情報の教授 ミシガン大学』の著者でもあります。オタクの異端: 社会変革をテクノロジー崇拝から救い出す」とLifewireの電子メールインタビューで語った。 「そして、実際の人間関係が重要なときは、機械ではなく生身の人間からの意見を聞きたいのです。」

リアルとChatGPTの違いを見分ける

ペンシルバニア大学の研究者らは、Web ベースのトレーニング ゲーム「Real or Fake Text?」を使用して収集されたデータを調査して論文を執筆しました。 参加者は、機械が特定のテキストを生成したかどうかを「はい」または「いいえ」で回答するように求められます。 このタスクには、テキストを本物か偽物として分類し、回答を正解か不正解として採点することが含まれます。 この研究では、参加者はランダムな偶然よりも有意に高いスコアを獲得したことがわかりました。

研究著者の一人であるリアム・デュガ氏は、「私たちの方法はタスクをゲーム化して、より魅力的なものにするだけでなく、トレーニングのためのより現実的な背景も提供します」と述べた。 ニュースリリース. 「生成されたテキストは、ChatGPT によって生成されたものと同様、人間が提供したプロンプトで始まります。」

外山氏は、コンピューターで生成されたテキストと人間の文章を区別することを学ぶことが重要である理由はたくさんあると述べた。 たとえば、教師は、生徒が自分で書いたエッセイを提出しているのか、部分的または全体的にコンピューターで書かれたテキストを提出しているのかを知りたいと考えています。 彼は、ヴァンダービルト大学が最近、 電子メールを送信しました ChatGPT がコミュニティに宛てて、ミシガン州銃乱射事件の悲劇とインクルージョンに向けたキャンパスの取り組みを結び付けて書きました。 すぐに反発がありました。

「そのような状況は他にもたくさんある」と彼は付け加えた。 「実際、私は AI 規制の本質的な形態の 1 つは、法律があらゆる規制を要求すべきであると信じています。 テキスト、画像、オーディオ、ビデオ、またはコンピューターによって生成されたその他のクリエイティブな出力であり、明確にマークされます。 そのような。"

AI が生成したテキストの検出

外山氏は、人間がAIで生成したテキストと人間が生成したテキストの違いを一貫して見分けることができるかどうかについては悲観的である。 「長期的には、AIはますます優れたものになるため、それは事実上不可能になるでしょう。」 彼が指摘しました に 非公式の実験 これは、経験豊富な教師でも生徒の書き込みと ChatGPT を区別するのが難しいことを示唆しています。

「私の同僚に、学生の文章が 突然劇的に改善されましたが、ChatGPT はさまざまなレベルの能力で書くように指示されたり、エラーが発生したりする可能性があります。」 彼が追加した。

コンピュータは、特定のテキストが人間によって作成されたものであるかどうかを識別するために使用される可能性があります。 パラグ・アローラのCEO クウェッグAIコンテンツシステムを開発する同社はLifewireの電子メールインタビューで、機械が生成した文章を発見するプログラムを開発する研究が進行中であると語った。

「OpenAI自体を含む研究機関が立ち上げているAI分類器は有望に見える」と同氏は付け加えた。 「しかし、GPT の進歩は常に GPT よりも一歩先を行っているようで、研究の性質上、分類器は常に生成器よりも少なくとも 1 世代遅れています。 すべての GPT ジェネレーターのポリシーとして暗号的な署名を残すための作業が行われており、これはこの問題の解決に向けた確実なステップとなる可能性があります。」

ユーザーが機械生成されたテキストを見つける方法はいくつかありますが、 ロバート・ブランドルのCEO ツールテスターとメールインタビューで語った。 同氏は、ChatGPT などの AI ツールを試して、AI ツールに慣れるためにどのような種類のコンテンツが生成されるかを確認することを提案しています。 欠点としては、文章が「まず」「次に」などで始まる定型的な構造や、文章に皮肉やユーモアが欠けていることが挙げられます。

「しかし、AIが発展するにつれて、AIテキストを検出するように設計されたツールも学習するでしょう」と彼は付け加えた。 「確かに、AI がいつ使用されているかを理解するために人々がこれらのツールに頼らなければならない段階に達するかもしれません。つまり、とにかく出版社が AI の使用状況をオープンに開示しない場合です。」