研究者がAIの意識に同意できない理由

意識的な人工知能（AI）のアイデアは、世界を支配する機械のイメージを思い起こさせますが、専門家は、この概念を真剣に受け止めるかどうかについて意見が分かれています。

AIのトップ研究者は最近、AIは私たちが思っているよりもすでに賢いと主張しました。 Ilya Sutskever、OpenAI研究グループのチーフサイエンティスト、 ツイートした 「今日の大規模なニューラルネットワークは少し意識しているのかもしれません。」 しかし、他のAI専門家は、この種のものを決定するのは時期尚早だと言います。

「意識するためには、実体はその環境におけるその存在と、それがとる行動がその将来に影響を与えることを認識する必要があります。」 チャールズサイモンFutureAIのCEOである、は、電子メールのインタビューでLifewireに語った。 「これらはどちらも現在のAIには存在しません。」

超人？

Sutskeverは以前、超スマートAIが問題を引き起こす可能性があると警告しています。 でインタビュー AIドキュメンタリーiHuman、彼は、高度なAIは「今日私たちが抱えているすべての問題を解決する」と述べたが、「無限に安定した独裁政権を生み出す可能性がある」とも警告した。

OpenAIは、インテリジェントコンピューターがもたらすリスクを回避することを目的とした非営利団体として設立されましたが、AIを作成することを目的とした研究も行っています。

多くの科学者がAIが意識しているというサイモンの主張を却下しましたが、彼には少なくとも1人の有名な擁護者がいます。 MITのコンピューター科学者 Tamay Besiroglu ツイートでSutskeverを擁護した。

「このアイデアを嘲笑する多くの著名な[機械学習]の人々を見るのは残念です」とBesiroglu氏は述べています。 Twitterに書いた. 「これにより、今後数十年にわたって間違いなく直面するであろう、深遠で奇妙で重要な質問のいくつかに真剣に取り組むこの分野の能力について、私はあまり期待できなくなります。」

意識とは何ですか？

何かが意識的であるかどうかを判断することでさえ、注意が必要な場合があります。 AI研究者 Sneh Vaswani 意識には複数の段階があることをLifewireにメールで伝えました。 AIは最初の段階に「まともな侵入」をしたと彼は言った。

「今日、機械は感情を理解し、性格プロファイルを構築し、人間の性格に適応することができます」と彼は付け加えました。 「AIが進化するにつれて、私たちが理解できるよりも速く、意識の高度な段階に向かって進んでいます。」

意識には多くの定義があり、木やアリはある程度意識していると主張する人もいます。これは「一般的な使用法を超えて定義を拡張する」という考えです。 彼は、自己認識は意識的な存在としての自己の理解であると主張します。

「意識と自己認識の両方は、自己利益を示すなどの多くの行動に現れるだけでなく、内的感覚にも現れます」とサイモンは言いました。 「AIが本当に意識していれば、行動を観察することはできますが、内的感覚についてはほとんど知識がありません。 自分自身を「私」と呼ぶような意識的に見える行動のライブラリーで意識を偽造することは可能ですが、真に意識的な実体は複数の結果を計画し、考慮することができます。」

Vaswaniは、超スマートAIを作成した結果について楽観的ですが イーロンマスクは警告した人の一人です その意識的なAIは人類の破壊につながる可能性があります。

「AIが完全に意識を獲得すると、それは「不完全な」社会を完成させるでしょう。人間とAIは共存するでしょう」とVaswaniは言いました。 「私たちは一緒に大きな目標を達成し、AIは私たちの世界にシームレスに溶け込みます。」

一部のAI専門家は、意識的なAIの概念そのものが現実よりもSFであると述べています。 この問題は、「ターミネータースタイル」のロボットを強調しすぎる傾向があり、すでに存在する偏ったAIによる実際の潜在的な損傷ではありません。 トリヴェニガンジー、AI会社Dataikuの責任あるAIリードは、Lifewireへのメールで述べています。

「私たちは次のエクスマキナに直面していないかもしれませんが、私たちはいくつかの本当の課題に直面しています」とガンディーは言いました。 「これは、採用において、医療費を予測するための偏ったAIの誤用に見られます。 履歴書を不当に除外するツール、または既存の履歴書を強化するクレジット貸付モデル 不平等。」

AIは本質的に良いことでも悪いことでもありません。それは、私たちが指示したことを実行するデータにすぎないと、ガンジーは主張します。

「人間の偏見はデータと機械学習モデルに影響を与えるため、使用するデータについて、なぜ私たちが その能力でAIを使用することを選択し、その選択がAIシステムの影響を受ける人々にどのように提示されるか」とガンディー氏は述べています。 追加した。