AIは考えることができますか？サールのチャイニーズルーム思考実験

幅広い目的での人工知能の使用は、ますます一般的になっています。自動運転車から受賞歴のある写真の作成、何十億ものツイートの分析、(皮肉なことに) 記事全体の執筆まで。デジタル データの生成量の増加と計算能力の進歩により、私たちの日常生活や知性に対する考え方が変化したことは誰も否定できません。ニコラス クリスタキス (ギリシャ系アメリカ人の社会学者) のような一部の学者は、AI を急進的なテクノロジーの 1 つとして言及しています。 人間関係を変える .

それでも、先は長いです。著名な哲学者のジョン・サールは、AI は実際には決してできないと主張しています。 考え 人間がするように . これを実証するために、彼は悪名高い中国の部屋の議論を構築しました。これは現代哲学に大きな影響を与えました。

チャイニーズルーム引数の設定: 2 種類の AI

間の違い 人工知能 （AI）と 汎用人工知能 （AGI）はこの時点で役に立ちます。私たちのほとんどは、すでにある種の人工知能とやり取りしています。最初のケースでは、コンピュータと機械は狭義の人間の知性を模倣しています。たとえば、AI は Twitter の何十億もの単語をフィルタリングして分析するのは得意ですが、ジョークを理解するのは非常に苦手です。または、運転またはチェスが得意ですが、両方ではありません。 AI の限界は、柔軟性の欠如と継続的な学習の欠如です。モデルは、デプロイする前にトレーニングする必要があります。

起業家で神経科学者の Jeff Hawkins は、AI とは対照的に、AGI は「新しいタスクを迅速に学習し、さまざまなタスク間の類似性を認識し、新しい問題を柔軟に解決できる機械」を作成することがすべてであると説明しています (2021 年、p.119)。そして、ここで哲学的な議論に出くわします。そのような AGI は可能でしょうか?この「知性」が良いか悪いか（道徳的に言えば）、またはユートピアやディストピアをもたらすかどうかを知ることには興味がありません。むしろ、私たちは調査しています 可能性 そのような知性の。

サールのチャイニーズルーム論争

影響を受けた哲学者ジョン・サール ウィトゲンシュタインの後期哲学 、彼の本でこの問題に取り組みました 心、脳、科学 （1984）。彼は、プログラムは人間によって作られた精神的プロセスを模倣できるが、形式的にのみ模倣できる、つまり模倣できないと主張した。 理解 彼らは何をやってるの。別の言い方をすれば、そのような知性は一連のルール (アルゴリズム) に意味を割り当てずに単に従っているだけです。彼の主張をよりよく説明するために、彼は思考実験を考案しました: チャイニーズ ルームです。

サールは、中国のシンボルのさまざまなバスケットが見つかる部屋に閉じ込められている自分を想像するように私たちに求めます.その部屋には、漢字の扱い方が書かれた母国語のルールブックがあります。ルールブックには、「[X] 記号が表示されたら、[Y] 記号で答える」などのルールしか記載されていません。この意味で、それらの中国の記号の意味を知ることは決してありません。

さらに、部屋の外にいる誰かが漢字をドアの下に滑り込ませたとします。バスケットからキャラクターを取り出し、ルールブックに従って注文し、ドアの下に滑り込ませることで、これらのメッセージに応答できます。指示が非常に明確で詳細であるため、すぐにあなたの答えがネイティブ スピーカーの答えと見分けがつかなくなったとします。部屋の外にいる人は、あなたが北京語を理解し、話していると思っています。

それからサールは尋ねます：あなたが北京語を知っていると結論付けてもらえますか?あなたはそうではないようです。類推すると、これはまさに人工知能で起こることであり、AI はそうではありません。 理解 人間がするように。 Searle は次のように書いています。それには、それらのシンボルに解釈または意味を付加することが含まれます」（2003、31）。そして、汎用人工知能への道は固有の制限によって妨げられているようです。

技術の進歩と模倣ゲーム

あなたは尋ねるかもしれません：技術の進歩はどうですか？最終的にこれらの制限を克服できますか?機械学習アルゴリズムはますます複雑になり、そのようなモデルのトレーニングに使用されるインターネット上の情報量は指数関数的に拡大しています。簡単に言えば、AI が言語を理解し、単にそれを再現するだけでなく、言語を理解できるようになるのは時間の問題のようです。質問はそうではありません どうやって、 しかし いつ .

この考え方に反して、オックスフォード大学教授のルチアーノ・フロリディは、サールに同意します。技術の進歩に関係なく、AI 固有の限界は残ると彼は言います。これは、数値にゼロを掛けるようなものです。数値がどれほど大きくても、結果は常にゼロになります。サールの中国語の部屋の思考実験に戻ると、取扱説明書がちくちくして複雑になっても、部屋の中の人は中国語を理解することはできません.

別の見方をすれば、サールの中国語の部屋では、外部の人々があなたが中国語に堪能であると確信していることが重要であることがわかります。それが要点ではありませんか？それで十分ではないでしょうか？ために アラン・チューリング 、人工知能の父、誰かが仲間の人間と機械を区別できなければ、そのプログラムは成功しています!シミュレーションだけで十分でしょうか?

推測する必要はありません。例は簡単に見つかります。Google の仮想アシスタントは、AI と話していることをユーザーが意識することなく、電話をかけたり、予約を調整したりできます。オープン AI モデル GPT-3 は、YouTuber からインタビューを受けています。最後に、銀行や食品の注文で支援が必要なときに、チャット ボットと対話したことがあるでしょう。チューリングが言ったように、それは イミテーションゲーム .

とはいえ、模倣ゲームだけでは十分ではありません。前述のように、単一のアルゴリズムはいくつかのタスクで人間よりも優れていますが、それは彼らが考えている、または継続的に学習していることを意味するものではありません.深層学習ネットワークは、チェス (IBM の Deep Blue) や囲碁 (AlphaGo) をプレイしたり、テレビ番組のジェパディ (IBM の Watson) で勝つことさえできますが、自分がゲームをプレイしていることを認識していません。

その上、「対立」の間、何十人ものエンジニア、数学者、プログラマー、ケーブル、ラップトップなどが、すべてを機能させる AI の背後にいることを忘れがちです。彼らは本当に素晴らしい操り人形師です！インテリジェンスとは、正しい答えを見つけたり、正しい動きを計算したりするだけではありません。ジェフ・ホーキンスは次のように書いています。 （2021年、134ページ）

鍵は私たちの脳にありますか?

上記を考えると、サールの中国の部屋によってなされた議論は有効です.したがって、シミュレーションが汎用人工知能の理想と私たちがSFから持っているイメージに満たない場合、たとえば、 アイ・ロボット (2004) または エクス・マキナ (2015)、AI の未来とは?おそらく、別のアプローチが必要です。

IBM の Deep Blue が 1997 年に Garry Kasparov に勝ったとき、チェスのグランドマスターは次のように述べました。 それを体系化できれば 、そしてそれをコンピューターに渡すと、彼らはそれをより良くするでしょう。」 （エプスタイン、2019年、p。22）。カスパロフの言葉には手がかりがあります: もし私たちができるなら 成文化する 私達がすること。問題は、人間がどのように知的であるのか、たとえば言語スキルをどのように発達させるのかを理解しようとしているということです.私たちの認識の多くの側面は謎のままです。私たちはまだプロセスを成文化していません。脳の仕組みが明確でないために、汎用人工知能への道が閉ざされているのではないでしょうか?

これは、ジェフ・ホーキンスが著書でとった態度です 千の頭脳 (2021)。彼は、AGI が私たちの脳と同じように機能する必要があると考えています。これには、世界をナビゲートできること、つまり身体を持つことが含まれます。脳が働くのは体を通してなので、具体化は非常に重要です。私たちは、触ったり、動かしたり、見たり、聞いたり、探検したり、味わったり、疑問に思ったりすることなどによって学びます.

同様に、AGI にもセンサーと移動メカニズムが必要です。体は人間のようである必要はありません。世界を探索してナビゲートできることだけが不可欠です。そのため、神経科学者、ロボット研究者、AI 開発者が協力する必要があります。この直観の哲学的帰結は、古い二元論を打ち砕く。 ルネ・デカルト : 私たちは体なしでは考えられません。

Searle のチャイニーズ ルームに戻ると、どの AGI も他のコンテキスト情報にアクセスする必要があります。これらのシンボルはいつ使用されますか?これらのシンボルを送信するとき、人々はどのように行動しますか?思考実験を拡張すると、ウィンドウとセンサーが必要になります。既にお気づきのように、これらの変更は、中にいる人ではなく、部屋の特性に関連しています。専門用語を使用すると、CPU (中央処理装置) がどのように機能するか (内部の人によって示されています) だけでなく、そのコンテキストとの相互作用、およびその CPU に取り付けることができるナビゲーション スキルに関するものです。

うっかりして、チャイニーズ ルームは知性のデカルト図を再現してしまいました。これらの変更が行われた場合、部屋が変更される理由はありません – 全体として – 北京語を理解できなくなる可能性があります。

チャイニーズ・ルーム論争の帰結：ラッダイトかデジタル・ユートピアか？

サールはホーキンスに同意すると思います。脳の謎が明らかになれば、AGI が実現可能になるでしょう。 Hawkins は、そのような展開が今後 20 年から 30 年以内に起こるだろうという意見です (2021 年、p. 145)。すべては、まず、人間がどのように学習し、考えるか、そして私たちの体と私たちを取り巻く状況との間の認知的相互作用を理解することにかかっています。

次に何が起こるでしょうか？ AGIを持つことの結果は何ですか？ マックス・テグマークによれば、その影響が人類にとってマイナスになると信じているラッダイトがいる一方、そのような技術の到来はすべての人にとってより良い時代の始まりであると信じているデジタルユートピアを見つけることができます.あなたの立場に関係なく、確かなことが 1 つあります。私たちの思考能力と学習能力は、当然のことと考えるべきではありません。 AI が考えるのを待つ間、人間としての能力を探求し続ける必要があります。

文学

エプスタイン、D.J. (2019)。 範囲 (キンドル版)。ペンギン出版グループ。

ホーキンス、J.（2021）。 千の脳: 知能の新しい理論 （キンドルエディ）。ベーシックブック。

サール、J.（2003）。 心、脳、科学 .ハーバード大学出版局。

Tegmark、M.（2017）。 ライフ 3.0。人工知能の時代に人間であること .アルフレッド・A・クノップ。