Airing

序文#

最近登場したいくつかの SF テーマのゲームや映像作品は、人々に人工知能に関する一連の思索と議論を引き起こしました。私は『デトロイト：ビカムヒューマン』というゲームをプレイした後、ゲーム制作者の近未来の生活に対する豊かな想像に驚くと同時に、人工知能がもたらす倫理的問題について深く考えました。もしかすると、この未来はすぐそこにあるのかもしれません。

私たちは SF のシーンを必要としません。すべては予想通りでなければなりません。もし SF のシーンを選んだ場合、飛行する車両や異星生物が必要になるかもしれませんが、これらは私たちの現在の生活とはかけ離れています。私たちが求めているのは、現在の現実から延びる予測可能な未来です。—— 『デトロイト』ゲームチーム Christophe Brusseaux

『ウエストワールド』では、この倫理的問題が無限に拡大されます。アンドロイドは人間に非常に似ているのに、人間の認識を得ることができないのは、単に創造者の傲慢さによるのでしょうか？『ブレードランナー』では、この創作と被創作の関係についてさらに深く探求されています。このシリーズの作品では、アンドロイドが生殖できないことが強調されています。実際、生殖は技術的な問題ではなく、人間が自らの作品にそのような機能を持たせることを極力避けているからです。なぜなら、子宮は創造主のアイデンティティを象徴し、アンドロイドは人間が作り出した製品であり、この製品がもしも創造主になった場合、人間とアンドロイドの間の倫理的関係に深刻な問題が生じるからです。

では、アンドロイドと人間の違いは何でしょうか？人間は自らが誇る、アンドロイドとは異なる特異性や高尚性を持っているのでしょうか？そもそも人間性とは何でしょうか？

このような問題に対する答えを見つけるためには、まず最も基本的なレベルに戻って分析する必要があります。それは人工意識（Artificial Consciousness）です。もし AI が無意識であれば、いわゆる価値や倫理は人間の主観的な付与に過ぎず、問題の答えは人間自身に帰結すべきです。しかし、もし AI に意識が存在するなら、問題は全く異なります。『デトロイト：ビカムヒューマン』や『ウエストワールド』のアンドロイドは最初は無意識の存在でしたが、さまざまな出来事を経て、彼らは徐々に自己覚醒し、共感や自己認識を持つようになりました。この過程で、アンドロイドはもはや単なる人間の創作物ではなく、完全で自由な個体となります。したがって、本稿では人工意識がどのように可能であるかを探求してみたいと思います。

始まり#

意識の問題は、まずデカルトの心身二元論から始める必要があります。二元論は実体を二つのカテゴリーに分けます。一つは物質（matter）、もう一つは心（mind）であり、物質は広がりのある存在であり、心は思考の存在です。しかし、この理論には固有の欠陥があります。一方では、心理的因果性の問題を説明できず、身体と心がどのように相互作用し、影響し合うのかを説明できません。もう一方では、物質の本質が広がりであるという点についても大きな議論があります。この哲学観は静的で片面的です。具体的には、非常に精巧な心のプロセスを生物有機体の構造や機能から切り離しています。

実体二元論の固有の欠陥を克服するために、英米の心の哲学者たちは基本的にデカルトが残した可能性の道を進んでいます。その主流の考え方は、二元対立を解消し、一元論の哲学的立場を確立することです。その中で、最も重要な哲学的アプローチは唯物論です。後の心の哲学者たちはこの基盤の上に行動主義、物理主義、機能主義、強い人工知能などのさまざまな哲学的アプローチを徐々に発展させました。

• ** 行動主義（Behaviorism）** は心を身体の行動に過ぎないと考え、心理的因果性の問題を解消しましたが、行動傾向の表現を心理的因果性の唯一の形式とし、個体の能動性を無視しています。これは適切ではありません。したがって、行動主義はすぐに物理主義に取って代わられました。

• ** 物理主義（Physicalism）** は心理状態と脳状態が同一であると考え、具体的にはタイプ同一論（Type to Type）と個例同一論（Token to Token）に分かれます。前者は各タイプの心理状態が特定のタイプの物理状態に等しいと考え、後者は各心理状態の個例が特定の物理状態の個例に等しいと考えますが、これは避けられない形で二元論の立場に戻ります。しかし、個例同一論（Token to Token）は私たちにいくつかの前向きな思考を提供します。心の構造は多重実現性（multiple realization）を持つのでしょうか？すなわち、物質構造が異なっていても同じ心の構造を生み出すことが可能でしょうか？現在のところ、答えはおそらく肯定的です。痛覚を例にとると、人間の痛覚は脳と中枢神経系によって生じますが、ロブスターという節足動物も痛覚を持っています。彼らの脳は非常に単純で、10 万個の神経細胞しかなく、真の中央脳はありませんが、痛覚を持っています。これにより、心の構造は多重実現性を持つことが示されています。

"無脊椎動物の動物学者として、私はロブスターが非常に洗練された神経系を持っていることを知っています。それは、他のことの中でも、害を及ぼす行動を感知することを可能にします。… [ロブスターは]、私は確信していますが、痛みを感知することができます。" ——Jaren G. Horsley, Ph.D

• ** 機能主義（Functionalism）** は唯物論の基盤の上に物質を階層的に分け、物質は最下層であり、心と意識は物質の高次機能（higher level function）であると考えます。中国の古代哲学者王充は、意識と物質の関係は鋭利さと刃の関係のようなものであり、前者は後者の派生属性であり、後者から独立して存在することはできないと鋭く指摘しました。もちろん、当時彼は物事が気から構成されていると考えていました。

• ** 強い人工知能理論（Strong Artificial Intelligence）** は意識をソフトウェアプログラムとし、身体をハードウェアと考え、心身の関係をコンピュータのソフトウェアとハードウェアの関係に例えます。現在まで、この理論は心の哲学、認知科学、人工知能の分野で依然として非常に議論の余地のある立場です。

以上の理論に基づき、私たちは人工意識が実現可能であると考える理由があります。理由は二つです：

1. 心の構造が多重実現性を持つのであれば、意識は別の人工的手段で実現できると信じる理由があります。
2. 心の構造または意識が物質の高次機能に過ぎないのであれば、私たちは人工的に物質構造を創造し、意識機能を実現することができると信じる理由があります。

問題#

しかし、人工意識は理論的に不可能性を持っています。なぜなら、現象的意識は観測不可能であり、私的であるため、実証理論は現象的意識を検証できないからです。

ここで二つの例を挙げて、現象的意識の観測不可能性と私的性を説明します：

1. コウモリであることはどのような体験でしょうか？
2. マリーは何を知らないのでしょうか？

コウモリであることはどのような体験でしょうか？この話題は実際には人間にとっては信じられないものであり、想像もできません。なぜなら、人間はコウモリの感覚を体験できないからです。私たちはコウモリの脳の状態が内的な感覚に変換されるのはコウモリの内的メカニズムに関係していると仮定できます。しかし、人間とコウモリの内的メカニズムは異なるため、人間はコウモリの感覚を感じることができません。つまり、現象的意識は外界の経験によって知覚されることができず、主観的な体験が欠如しており、観測不可能性を持っています。

マリーは色彩学者であり、一生をかけて赤と緑に関する理論を研究しましたが、彼女自身は赤緑色盲の患者です。彼女の理論と哲学的ゾンビは何が違うのでしょうか？

注：精神哲学と認識の領域において、哲学的ゾンビ（Philosophical Zombie / P-Zombie）は、一般の人間と区別できず、認識経験、感受性、感覚、感質が欠如しているとされる仮定的存在者です。哲学的ゾンビは鋭い物体に刺激されることができますが、痛みを感じることはありません。しかし、彼は痛みを感じているかのように振る舞い、「ああ」と叫び、鋭い物体から後退し、さらには痛みを感じていると私たちに伝えることができます。

現象的意識は私的性を持っています。認識の違いは、記述が同じものでないことを意味しません。行動は同じでも、内面的な体験は完全に異なる場合があります。たとえば、マリーが認識する緑は、私たちが認識する赤であり、私たちが認識する赤は彼女が認識する緑ですが、私たちは行動によってそれを区別することができません。彼女の内面的な体験がどのようなものであるかは私たちには分かりませんが、行動と結果に関しては一貫性があります。同様に、人工意識についても、彼が意識を持っているかどうかを知ることはできません。これは客観的な事物の記述に過ぎず、人がより感情的な主観的感覚を記述しようとする際には、具体的な言葉や行動で表現することがさらに難しくなります。

さらに二つの思想実験も私たちに深い思索を促します：

1. 中国人論証
2. 中国語の部屋実験

中国人論証はシンプルな思想実験です。もし私たちが意識をある物質構造の高次機能と考えるなら、私たちは人間をその構造の基本単位として使用します。仮にその構造が一億の基本単位で構成されるとしたら、この一億人からなる構造も意識を持つべきです（『三体 1』の秦始皇の人形隊列コンピュータを想像できます）。しかし、この構造の基本単位は人間であり、各個人は自分の意識を持っています。では、この構造は一つの意識を持つのか、それとも一億の意識を持つのか？

ジョン・サール（John Searle）が提唱した中国語の部屋実験はさらに興味深いです。この思考実験では、英語しか話せない人を閉じ込めた部屋に置き、彼は壁の小さな穴を通して紙を外に出すことで外界と交流します。そして、外から入ってくる紙はすべて中国語で書かれています。この人は中国語翻訳プログラムの本を持っており、部屋には十分な原稿用紙、鉛筆、キャビネットがあります。したがって、中国語翻訳プログラムを利用して、この人は入ってきた文字を英語に翻訳し、自分の返信を中国語に翻訳して外に出すことができます。このような状況では、外の人々は部屋の中の人が完全に中国語を理解していると思いますが、実際にはその人は翻訳ツールを操作するだけで、中国語には全く無知です。

この実験に含まれる考えは、機械が示す知能は、翻訳プログラムによる錯覚であり、実際には人間の知能について何も知らない可能性があることを示唆しています。

さらに、機能主義の見解も正確ではありません。私たちは意識を単純に機能や計算の結果と同一視することはできず、あるいは意識は計算不可能であると言えます。脳の機能はコンピュータと比較できるかもしれませんが、より深い知的活動、特に意向性を中心とした心の活動は、決してコンピュータのアルゴリズムで尽くされるものではありません。文法規則に従って定義されたコンピュータプログラム自体は、心の意向性や意味の呈示を保証するには不十分です。

ウィトゲンシュタインは「私の言語の限界は私の世界の限界を意味する」と言いましたが、サールの理論に従えば、これを「意向性の限界は言語行為の世界の限界を意味する」と改めることができます。意向性は意識活動の本質を描写するものであり、人の言動は多くの場合、積極的かつ能動的であり、自己意識によって導かれますが、機械が行うすべてのことは事前に規定される必要があります。それは機械的で受動的です。心の本質は計算可能ではなく、これらすべては論理的還元によって達成されるものではありません。

応答#

私たちは現象的意識が確かに不可知であることを否定できません。不可知論については探求する意味がないと考えます。このような問題の答えを追求するよりも、より意義のある研究に目を向けるべきです。たとえ私たちが何らかの説明を得たとしても、その答え自体は哲学的な意味を持たないため、私たちは気にする必要はありません。

また、上記の思想実験についても気にする必要はありません。思想実験の結論は私たちの直感に依存しており、合法性を持たないからです。深く掘り下げると多くの問題が存在します。たとえば、中国語の部屋実験は工学的な次元を無視しています。もし実際に実施する場合、必ずモデルや関数を構築する必要があります。記号は意味を持たないかもしれませんが、入力と出力が予測可能であるのは、人間の意識によって与えられた結果です。実際、モデルや関数を決定する時点で、形式的な意味が構築されています。これは単なる文法の問題ではなく、意味の問題です。実際、現在の NLP 分野の研究において、経験主義的アプローチで深層学習モデルを構築する場合でも、理性主義的アプローチで形式論理を研究する場合でも、システムを構成する瞬間から、実際にはすでに意味が存在しています。後者は言うまでもなく、前者はデータを供給する際、教師あり学習に付随するラベルが人為的に与えられた意味内容であることを示しています。

最後の意向性の問題については、現在の研究方法の欠陥を否定できません。現在の人工知能分野の研究は、確かにまだ長い道のりがあります。現在私たちが見ている AI は「知能」とは無関係です。人工意識は現在理論的に不可能性を持っていますが、私は非合理的な希望を持ち続けています。早く人造の知能が現れることを目の当たりにしたいと思っています。なぜなら、これが人類の最後の発明かもしれないからです。

結び#

いずれにせよ、学者は自らが研究する分野に対して畏敬の念を持つ必要があります。AI の分野にはまだ多くの問題があり、本稿は単に問題を提起するためのものでしかありません。最後に一篇の詩を結びとして紹介します：

もし私が叫ぶなら、
各級の天使の中で誰が私の声を聞くことができるのか？
たとえその中の一人が突然私を抱きしめても、
私は彼のより強い存在によって滅びるだろう。
なぜなら、美は私たちが辛うじて耐えられる恐怖の始まりに過ぎず、
私たちがそれに驚嘆するのは、
彼が私たちを破壊することを軽視しているからだ。
すべての天使は恐ろしい。
—— リルケ 『デュイノの悲歌』

参考文献：

[1]Chuanfei Chin. Artificial Consciousness: From Impossibility to Multiplicity[C]. PT-AI 2017: Philosophy and Theory of Artificial Intelligence 2017 pp 3-18.
[2] ジョン・サール。心の導入 [M]. 上海：上海人民出版社.
[3] 王曼。デカルトの心身二元論と英米心の哲学への影響 [J]. 唯実，2010 (12):43-46.
[4] Mingke. 人工知能の障害：あなたが見る AI は知能とは無関係 [OL].https://mp.weixin.qq.com/s/IBjOkDeeltlffXXSS0dsDA