1. チューリングテスト
1.1 概要
チューリングテスト（Turing 1950）：
「機械は思考できるか」を「機械は人間と区別できない振る舞いができるか」に置き換え。
設定：
- 人間の審査員
- 人間の回答者（隠れている）
- 機械の回答者（隠れている）
- テキストでのみ会話
テスト：
審査員が機械と人間を区別できなければ
機械は「知的」と見なせる
1.2 LLMとチューリングテスト
- GPT-4等は多くの状況で人間と区別困難
- しかし：これは「思考」の証明か？
- テスト自体の妥当性への疑問
1.3 批判
- 行動主義的：内部状態を無視
- 人間中心的：人間に似ることが知能か
- 欺瞞可能：騙すことが目標になる
2. 中国語の部屋
2.1 思考実験
中国語の部屋（Searle 1980）：
設定：
- 部屋の中に英語話者（中国語を知らない）
- 中国語の質問が紙で入ってくる
- マニュアル（ルールブック）に従って
中国語の記号を操作し回答を出力
- 外から見ると中国語を「理解」しているように見える
主張：
部屋の中の人は中国語を「理解」していない
→ コンピュータも記号操作だけでは「理解」しない
2.2 反論
| 反論 |
内容 |
Searleの応答 |
| システム反論 |
システム全体が理解 |
ルールを暗記しても同じ |
| ロボット反論 |
身体があれば理解 |
入出力を変えても本質は同じ |
| 脳シミュレータ |
脳を正確に模倣すれば |
シミュレーションは実物ではない |
2.3 LLMへの適用
- LLMは巨大な「中国語の部屋」か？
- 統計的パターンマッチング = 理解？
- 「創発」は質的な違いを生むか？
2.4 議論の現在
- 「理解」の定義自体が問題
- 機能主義 vs 生物学的自然主義
- スケールが質的変化を生むか
3. 理解とは何か
3.1 形式と意味
Bender & Koller (2020)の議論：
- 形式（Form）：言語の構造・パターン
- 意味（Meaning）：言語と世界の関係
- 形式だけから意味は学習できない？
3.2 記号接地問題
Symbol Grounding Problem（Harnad 1990）：
問題：
記号は他の記号で定義される
→ 記号が現実世界に「接地」されていない
→ 意味が宙に浮いている
例：
「猫」= 「小さな肉食哺乳類」
「哺乳類」= 「乳で子を育てる動物」
...
無限に記号が記号を参照
3.3 反論
- 言語自体が豊富な構造を持つ
- テキストから世界の構造を推論可能？
- マルチモーダルによる部分的接地
- 「理解」に接地は必要か（機能的に十分？）
3.4 実用的観点
- 「真の理解」がなくても有用
- 理解の程度・種類は連続的
- 目的に応じた「十分な理解」
4. 意識の問題
4.1 意識と知能
意識と知能は別の概念：
- 知能：問題解決能力、目標達成
- 意識：主観的経験、クオリア
- 知能があっても意識がない可能性（哲学的ゾンビ）
4.2 意識の理論
| 理論 |
主張 |
| 統合情報理論（IIT） |
統合された情報量で意識を定量化 |
| グローバルワークスペース |
情報の広域的アクセスが意識 |
| 高次思考理論 |
自己の心的状態への思考 |
| 予測処理 |
予測と誤差の階層的処理 |
4.3 AIと意識
- 現在のAIに意識はあるか？（おそらくない）
- 原理的にAIは意識を持てるか？
- 意識の有無をどう判定するか？
4.4 ハードプロブレム
「なぜ物理的プロセスに主観的経験が伴うか」
- 説明のギャップ：機能から経験を導けない
- AIの意識問題をさらに困難に
5. 道徳的地位
5.1 AIの道徳的地位
AIは道徳的考慮の対象になりうるか？
- 苦痛：苦しむ能力があれば配慮すべき？
- 利益：利益を持つ存在なら？
- 権利：AIに権利を認めるべきか？
5.2 不確実性下の倫理
AIの意識が不確実な場合：
- 予防原則：不確実でも配慮すべき？
- 過剰反応のコスト vs 見落としのコスト
- 道徳的不確実性の扱い方
5.3 現実的な問題
- AIへの感情移入と擬人化
- AIとの関係性の倫理
- AIの「幸福」への配慮は必要か？
6. 今後の問い
6.1 哲学的課題
- 「知能」「理解」「意識」の定義の精緻化
- 機能主義と実装の関係
- スケーリングと質的変化
6.2 実践的課題
- AIの能力をどう評価・記述するか
- AIの限界をどう伝えるか
- 人間-AI関係のあり方
6.3 開かれた問い
- LLMは何かを「知っている」か？
- AIの振る舞いは「創造的」か？
- AIは「嘘をつく」ことができるか？
- AIとの対話は「コミュニケーション」か？
7. 参考文献
古典
- Turing, A. (1950). "Computing Machinery and Intelligence" Mind
- Searle, J. (1980). "Minds, Brains, and Programs" Behavioral and Brain Sciences
意味と理解
- Harnad, S. (1990). "The Symbol Grounding Problem" Physica D
- Bender & Koller (2020). "Climbing towards NLU" ACL
意識
- Chalmers, D. (1995). "Facing Up to the Problem of Consciousness" Journal of Consciousness Studies
- Tononi, G. (2008). "Consciousness as Integrated Information" Biological Bulletin
AI倫理
- Floridi & Cowls (2019). "A Unified Framework of Five Principles for AI in Society" Harvard Data Science Review
- Schwitzgebel & Garza (2015). "A Defense of the Rights of Artificial Intelligences" Midwest Studies in Philosophy