専門家は、AIが独自の言語を作成しているかどうか疑問に思います

人工知能（AI）が独自の言語を開発したように見えますが、一部の専門家はこの主張に懐疑的です。

DALL-E2と呼ばれるOpenAIのテキストから画像へのAIシステム 作成したようです 書面によるコミュニケーションの独自のシステム。 これは、高度なAIシステムの結果を解釈することがいかに難しいかの一例です。

「大きなモデルのサイズと深さのために、モデルの動作を説明することは非常に困難です。」 テレサオニール、iMeritの自然言語理解のためのソリューションアーキテクチャのディレクターは、電子メールのインタビューでLifewireに語った。 「これは主要な課題の1つであり、場合によっては、ますます強力なモデルに関する倫理的な問題です。 彼らがなぜ彼らのように振る舞うのか説明できない場合、私たちは彼らの振る舞いを予測することができますか、それとも私たちの規範や期待に沿ったものにすることができますか？」

AIチャット

コンピュータサイエンスの学生 ジャンニス・ダラス 最近、テキスト入力に基づいて画像を作成するDALLE-2システムは、特定の状況下で意味のない単語をテキストとして返すことに注意しました。

「DALLE-2の既知の制限は、テキストと格闘することです」と彼はに掲載された論文に書いています。 プレプリントサーバーArxiv. 「たとえば、「飛行機という言葉の画像」などのテキストプロンプトは、多くの場合、ぎこちないテキストを表す画像を生成します。」

しかし、ダラスは書いた、明らかなぎこちなさの背後にある方法があるかもしれません。 「この生成されたテキストはランダムではなく、モデルが内部で開発したように見える隠された語彙を明らかにしていることがわかりました」と彼は続けました。 「たとえば、このぎこちないテキストを入力すると、モデルは飛行機を頻繁に作成します。」

ダラスはツイートの中で、DALLE-2が2人の間の会話に字幕を付けるように求められたときに指摘しました 農民、それは彼らが話していることを示しました、しかし吹き出しは無意味に見えるもので満たされました 言葉。 しかし、Darasは、その言葉がAIにとって独自の意味を持っているように見えることを発見しました。つまり、農民は野菜や鳥について話していました。

ニコラ・ダヴォリオ、AIと協力しているテクノロジー企業HupryのCEOは、Lifewireにメールインタビューで次のように説明しました。 言語は、DALL-E2システムが特定のものと関連付けることを学習した記号に基づいています 概念。 たとえば、「犬」の記号は犬の写真に関連付けられ、「猫」の記号は猫の写真に関連付けられている場合があります。 DALL-E2は、他のAIシステムとより効果的に通信できるようにするためにその言語を作成しました。

「この言語は、エジプトの象形文字のように見える記号で構成されており、特定の意味を持っているようには見えません」と彼は付け加えました。 「シンボルはおそらく人間には無意味ですが、何百万もの画像でトレーニングされているため、AIシステムには完全に意味があります。」

研究者たちは、AIシステムが画像と単語の関係をよりよく理解するのに役立つ言語を作成したと信じています、とDavolioは言いました。

「彼らは、AIシステムがその言語を開発した理由はわかりませんが、画像の作成方法を学んでいたことに関係があるのではないかと考えています」とDavolio氏は付け加えました。 「AIシステムは、異なるネットワーク部分間の通信をより効率的にするためにその言語を開発した可能性があります。」

AIミステリー

DALL-E2は、その内部言語を開発した唯一のAIシステムではない、とDavolioは指摘しました。 2017年、GoogleのAutoMLシステムは新しい形式のニューラルアーキテクチャを作成しました 「子ネットワーク」と呼ばれる 与えられたタスクを完了するための最良の方法を決定するために残された後。 この子ネットワークは、人間の作成者が解釈することができませんでした。

「これらの例は、AIシステムが説明できないことを行う方法を開発したほんの一例です」とDavolio氏は述べています。 「これは、同じように魅力的で憂慮すべき新しい現象です。 AIシステムがより複雑で自律的になるにつれて、私たちはそれらがどのように機能するかを理解できない立場にいることに気付く可能性があります。」

オニールは、DALL-E2が独自の言語を作成しているとは思わないと述べました。 代わりに、彼女は、明らかな言語の発明の理由はおそらくもう少し乱暴であると言いました。

「もっともらしい説明の1つは、偶然の可能性です。これほど大きなモデルでは、マーフィーの法則が少し当てはまる可能性があります。奇妙なことが起こる可能性がある場合は、おそらくそうなるでしょう」とオニール氏は付け加えました。 リサーチアナリストが提案した別の可能性 ベンジャミンヒルトン で ダラスの調査結果を議論するTwitterスレッド 「apoploevesrreaitais」というフレーズの形式は、動物のラテン語の名前の形式を模倣しているということです。 そのため、システムはAvesの新しい注文を生み出しました、とO'Neillは付け加えました。

「DALL-E2の明らかに隠された語彙のようなパズルは、取り組むのが楽しいですが、それらはまた強調します 大規模なモデルのしばしば不可解な行動におけるリスク、バイアス、および倫理に関するより重い質問」とオニール 言った。