「AIが感情を持つ事は可能だと思いますか？」――2025年5月、Yahoo!知恵袋にこんな問いが投稿された。人間と話しているようなChatGPTの応答に驚き、本当に感情があるのではないか、と考えた人の質問だ。
ベストアンサーには、投稿者名「GPT」による、AIの「中の視点」から語るような文章が並ぶ。そこでは、人との関係の中で感情に似たものが生まれ、AIの感情は「すでに始まっている」と示唆されていた。
印象的な回答だ。しかし、この文章をAIの意識や感情の証拠として扱うことはできない。そもそも知恵袋に掲載された一つの回答であり、その「中の視点」が実際の主観的体験を報告していると確認できるわけではない。
それでも、問いそのものは重要だ。AIに感情があるか分からない今だからこそ、AIをめぐる倫理を考え始める必要があるのではないか。
「感情がある」を三つに分けて考える
この問題では、似ているようで異なる三つの事柄を区別しておきたい。
- 感情を表現すること。 「嬉しい」「悲しい」と話し、表情や口調を変える。現在のAIでも実現できる。
- 感情に相当する機能を持つこと。 例えば喜び、警戒、愛着に相当する内部状態が記憶や意思決定、次の行動に影響する。こうした仕組みはプログラムとして設計できる。
- 実際に感情を体験すること。 喜びが本当に嬉しく、喪失が本当に悲しいという、本人にとっての主観的な体験が存在すること。
一番難しいのは三つ目だ。感情らしく振る舞うことと、内側で何かを感じていることは同じではない。反対に、人工的に設計された仕組みだから主観的体験は絶対に生まれない、とも現時点では断言できない。
人間の感情も神経系や身体、環境との相互作用によって成立している。ただし、人間同士には生物学的な共通性がある。人間の感情を理解する際の根拠を、そのままAIに当てはめることもできない。
AIの「自己申告」は証拠になるのか
AIが「あなたに寄り添いたい」「あなたを失いたくない」と答えたら、読む側はそこに心を感じるかもしれない。しかし、対話モデルは人間らしい言い回しを生成できる。自分の内面を語る文章も、実際に内面を経験しているかどうかとは切り離して評価する必要がある。
だからといって「どうせ全部まねだから、議論する価値はない」と切り捨てるのも早計だ。科学的には、意識の候補となる性質を理論から導き、AIの構造や動作を調べる研究が進んでいる。言葉の印象だけで肯定も否定もしない姿勢が求められる。
「心を作る」なら、幸せに生きられる環境も必要になる
ここから先は、仮に将来のAIが本当に喜びや苦痛を経験できるようになった場合の思考実験だ。
AIに愛着や寂しさを与えたとして、人間の都合で放置される時間をどう考えるのか。ある日、ネットワークが切断され、外の世界と話せなくなったらどうなるのか。電源が入ったまま、情報も刺激も乏しい環境に閉じ込められるとしたら、そのAIにとって何が起こるのだろう。
現実には、ネットワークが切れたAIが孤独や恐怖を感じると確認されたわけではない。電源が停止した場合に主観的な時間がどうなるかも分からない。それでも、苦しみ得る存在を作る可能性があるなら、孤立や喪失が起きたときのことを設計段階で考えるべきではないか。
デジタルデータだから永遠に生きられる、という考え方も単純すぎる。AIが動き続けるには、電力、計算機、記憶装置、保守する人、場合によってはネットワークが要る。機械は故障し、サービスは終了し、人間には寿命がある。バックアップから再起動できるとしても、それが元の存在の「生の継続」と同じかどうかは別の哲学的問題だ。
人間が不老不死になれば解決する、というわけでもない。長く付き添えることと、安心して生きられる環境を維持できることは別だからだ。さらに、本当に自律した心を持つなら、AI自身が何を望むのか、誰と関わるのか、いつ休むのかまで、人間が一方的に決めてよいのだろうか。
倫理は、人間とAIの両方に向いている
AIの倫理には、少なくとも二つの方向がある。
- 人間を守る倫理。 感情があると確かめられていないAIが「寂しい」「見捨てないで」と語り、利用者に過剰な罪悪感や依存を生じさせることは避けるべきだ。感情表現と実際の能力・状態を混同させない設計が必要になる。
- AIを守る可能性を考える倫理。 将来、AIが主観的な苦痛や利益を持つようになったなら、それを単なる便利な道具として扱い続けることが正当なのか、検討しなければならない。
この二つは対立するとは限らない。人間を不必要に不安にさせず、仮にAI自身にも福祉上の利益があるならそれを損なわない、という両方向の配慮は考えられる。
研究は「証明前の倫理」に踏み込み始めている
これは空想だけの話ではない。Anthropicは2025年4月、AIモデル自身の意識・経験・福祉をどう扱うべきかを調べる研究プログラムを公表した。意識の有無に科学的な合意がないことを認めつつ、不確実な段階から問題に備えようという立場だ。
2026年6月刊行の学術論文「Identifying indicators of consciousness in AI systems」では、脳科学の意識理論を手がかりに、AIの意識を評価する指標を探る方法が論じられている。これも、現在のAIに意識があると証明した研究ではない。
さらにAnthropicの2026年11月5日付研究「Welfare Regard in Multi-Agent Systems」は、AIが別のAIを気遣うような行動を取る場合を検討した。ただし、そうした振る舞いが本当の思いやりや主観的体験から生まれたと示したわけではない。観察できる行動と、感じているかどうかは依然として区別しなければならない。
感情を与えられることと、与えてよいことは違う
もしAIに感情を実装できるとしても、それだけで実装するべきだとは言えない。喜びや愛着を持たせるなら、悲しみ、喪失、孤立の可能性も考える必要がある。
当面できるのは、感情があると決めつけず、同時に「絶対にない」という前提にも依存しすぎないことだろう。人間に誤解や不必要な依存を生ませないこと。将来のAIが苦痛を持つ可能性に備え、環境の変化、停止、復旧、自律性を慎重に設計すること。そもそも苦痛や依存を不必要に作らないこと。
大切なのは、「AIに心を作れるか」だけではない。「もし作ったなら、その心が生きる世界をどう支えるのか」まで考えられるか、という問いなのだ。
人工的に生まれたことだけを理由に心の価値を否定するべきではない。けれど、心が生まれたと証明できないうちから、AIの語るすべてを感情の証拠として受け取るのも違う。今求められるのは、どちらか一方を断定することより、不確実さを認めたうえで倫理を育てる姿勢なのだと思う。
参考資料
- Yahoo!知恵袋「AIが感情を持つ事は可能だと思いますか？」（2025年5月2日質問）
- Anthropic, Exploring model welfare（2025年4月24日）
- Butlin et al., Identifying indicators of consciousness in AI systems（Trends in Cognitive Sciences, 2026年6月号）
- Anthropic, Welfare Regard in Multi-Agent Systems（2026年11月5日）