はじめに
もしもあなたが乗っている自動運転の車が、突然ブレーキが効かなくなり、目の前の横断歩道を渡っている5人の歩行者に突っ込みそうになったらどうしますか？しかも、もしハンドルを切って壁に激突すれば歩行者は助かりますが、乗客であるあなたの命は危険にさらされます。人間であれば、パニックになってとっさにハンドルを切るか、そのまま固まってしまうかもしれません。では、それを操縦しているのが「自分で考えて判断するAI（人工知能）」だった場合、機械はどのような行動を取るようにプログラムされているべきでしょうか。
本ブログ「ちょっと気になる話題の宝庫」がお届けする「ロボット心理学」連載の第4回目となる今回は、最新のテクノロジーが直面している最も深く、そして最も難しいテーマ「ロボット倫理と道徳的ジレンマ」について詳しく探求していきます。自分で状況を判断して動く「自律型ロボット」が社会に普及していく中で、彼らが「命の選択」という究極の決断を迫られたとき、どのようなルール（アルゴリズム）で動くべきなのか。そして、その機械の決断を私たち人間はどう受け止めるのかを、わかりやすく解説します。
👇 本記事でわかる3つの重要ポイント 👇
- 【テーマ1】自動運転車が直面する「トロッコ問題」という究極の選択
- 【テーマ2】有名な「ロボット工学三原則」が現代のAIに通用しない理由
- 【テーマ3】AIが下した道徳的な判断に対して人間が抱く心理と責任の所在
この記事を最後までお読みいただければ、SF映画の中だけだと思っていた「ロボットの倫理観」という問題が、実は私たちのすぐ目の前に迫っている現実的な課題であることがスッキリと理解できるはずです。便利な機械と人間が安全に共生していくために、テクノロジーはどのようなルールを持たなければならないのか。奥深くもスリリングなロボット倫理の世界へご案内します。ぜひ、あなた自身が当事者になったつもりで想像しながら読み進めてみてください。
ロボットが直面する「道徳的ジレンマ」とは？
自分で考えて動く「自律型ロボット」の誕生と新たな課題
これまで私たちが使ってきた機械やコンピューターは、すべて「人間が与えた命令の通りに動く」というルールに基づいていました。洗濯機はボタンを押した通りに洗い、パソコンの表計算ソフトは入力された数式に従って計算をします。そこには「機械自身が悩む」という要素は一切ありませんでした。しかし、人工知能（AI）の急速な進化により、現在のテクノロジーは「自分で周囲の状況を確認し、自分で判断して動く」という新しい段階に突入しています。これを「自律型ロボット」と呼びます。
自律型ロボットの代表的な存在が、人間がハンドルを握らなくても目的地まで安全に連れて行ってくれる「自動運転車」です。自動運転車は、無数のカメラやセンサーで道路の状況をリアルタイムで把握し、歩行者を避け、信号を守り、最適なルートを計算して走行します。しかし、「自分で考えて行動できる」ようになったからこそ、ロボットはこれまでの機械が経験したことのない新しい問題に直面するようになりました。それが「正解のない道徳的な判断」を迫られるという課題です。どちらを選んでも誰かが傷ついてしまうような複雑な状況下で、機械はどのような基準で行動を選択すべきなのでしょうか。
究極の選択を迫られる「トロッコ問題」の恐怖
このような「道徳的ジレンマ（どちらを選んでも問題が残る苦しい立場）」を考える上で、倫理学の世界で昔から議論されている有名な思考実験があります。それが「トロッコ問題」です。あなたも一度は耳にしたことがあるかもしれません。
基本的なストーリーはこうです。ブレーキが壊れたトロッコ（あるいは電車）が猛スピードで線路を走っています。このまま進めば、前方の線路で作業をしている5人の作業員がひかれて命を落としてしまいます。しかし、あなたの目の前には線路のポイントを切り替えるレバーがあります。このレバーを引けば、トロッコは別の線路にそれて5人は助かります。ただし、その別の線路の先には1人の作業員がいて、その1人が犠牲になってしまいます。さて、あなたはレバーを引くべきでしょうか、それとも何もせずに見ているべきでしょうか。
「5人の命を救うために1人の命を犠牲にするのは正しいことなのか？」というこの問いには、絶対に正しいという正解はありません。人間の哲学者たちでさえ何十年も悩み続けているこの難問を、今、人間の代わりにハンドルを握るAIにプログラミングとして教え込まなければならない時代がやってきたのです。
自動運転車と命の優先順位：AIは誰を守るべきか
歩行者か、それとも乗客か？計算手順（アルゴリズム）が下す残酷な決断
自動運転車の開発において、このトロッコ問題は決して机上の空論ではなく、いつ実際に起きてもおかしくない現実の危機です。道路を走っている以上、「急に子どもが飛び出してきた」「対向車が中央線をはみ出してきた」といった避けられない事故の瞬間は必ず存在します。
例えば、こんな状況を想像してみてください。自動運転車が狭い道を走っているとき、突然、右からお年寄りが、左から小さな子どもが飛び出してきました。ブレーキを踏んでも絶対に間に合いません。そのまま直進すれば二人ともはねてしまいますが、右に急ハンドルを切ればお年寄りだけを、左に切れば子どもだけをはねることになります。あるいは、歩行者を避けるために崖から車を転落させ、乗客である「あなた」の命を犠牲にするという選択肢もあるかもしれません。
人間であれば、パニック状態で反射的にハンドルを切ってしまった結果として「事故」として処理されるでしょう。しかし、自動運転車の場合は違います。AIは何が起こるかをコンマ数秒の世界で計算し、「あらかじめ決められた優先順位のルール（アルゴリズム）」に従って、意図的にどちらかの命を選んでハンドルを切ることになります。つまり、ロボットの頭脳を設計するエンジニアたちは、「誰の命を優先して守り、誰の命を後回しにするか」という残酷なルールを、あらかじめコンピューターに書き込んでおかなければならないのです。
人間の倫理観とAIの判断基準のズレが引き起こす問題
では、AIはどのように「命の重さ」を計算すべきなのでしょうか。「人数が少ない方を犠牲にする」というルールが正しいのでしょうか。それとも「年齢が若い子どもを守るべきだ」というルールでしょうか。あるいは、「どんなことがあっても、車を買って乗ってくれているオーナー（乗客）の命を最優先に守る」というルールでしょうか。
実は、この優先順位について世界中の人々にアンケート調査を行った興味深い研究があります。その結果、「どんな時でも被害が一番少なくなるように（犠牲になる人数が一番少なくなるように）プログラミングされるべきだ」と答える人が圧倒的多数でした。多くの人が、社会全体としての被害を減らすことが正しいと考えているわけです。
しかし、「では、乗客であるあなたが犠牲になるかもしれない自動運転車を買いますか？」と質問を変えると、ほとんどの人が「買わない」と答えました。頭では「被害を最小限にするのが正しい」とわかっていても、いざ自分の命や家族の命がかかっているとなれば、「乗っている自分たちを最優先で守ってくれない車になんか乗りたくない」というのが人間の本音なのです。このように、社会全体にとっての理想的な倫理観と、個人の心理的な欲求との間に生じる大きなズレが、AIの判断基準を決めることを極めて困難にしています。
SFの世界から現実へ：アシモフの「ロボット工学三原則」
ロボット工学三原則とは何か？
「ロボットが守るべきルール」と聞いて、多くの人が思い浮かべるのが、有名なSF作家のアイザック・アシモフが1950年代の小説の中で考案した「ロボット工学三原則」です。このルールは非常にシンプルで美しく、長年にわたりロボット倫理の基本として親しまれてきました。
第一条：ロボットは人間に危害を加えてはならない。また、危険を見過ごして人間に危害を及ぼしてはならない。
第二条：ロボットは人間に与えられた命令に服従しなければならない。ただし、第一条に反する場合はこの限りではない。
第三条：ロボットは第一条および第二条に反するおそれのない限り、自分自身を守らなければならない。
この三つのルールさえしっかり守っていれば、ロボットが人間に反乱を起こしたり、人を傷つけたりすることはないように思えます。人間を守ることが何よりも優先され、その次に人間の命令を聞き、最後に自分を守る。非常に理にかなった設計図のように見えます。
ロボット工学三原則が現代社会で通用しなくなった理由
しかし、現代の複雑なAIや自律型ロボットの社会実装において、この美しいアシモフの三原則はもはや通用しないことが明らかになっています。なぜなら、現実の世界は「人間対ロボット」という単純な構図ではなく、「複数の人間の利益が複雑に絡み合う状況」ばかりだからです。
先ほどの自動運転車の例に戻ってみましょう。車がブレーキをかけられない状況で、歩行者を避ければ乗客が死に、乗客を守れば歩行者が死ぬという場面に直面したとき、アシモフの第一条「人間に危害を加えてはならない」はどうなるでしょうか。ロボットはどちらを選んでも「人間（歩行者か乗客）に危害を加える」ことになり、プログラムは矛盾を起こして完全にフリーズ（停止）してしまうでしょう。
また、介護ロボットの例も考えてみましょう。重い病気を患っているお年寄りが、食事制限を無視して「甘いお菓子を持ってこい」と命令したとします。命令に従えば健康を害する（第一条違反）ことになり、命令を拒否すれば第二条違反になります。現実の社会では、「誰かにとっての良いこと」が「他の誰かにとっての悪いこと」になるジレンマが無数に存在するため、「絶対に人間に危害を加えない」という単純なルールだけでは、ロボットは一歩も動けなくなってしまうのです。
AIの道徳的判断を人間はどう評価するのか？
機械が下した決断に対する人間の心理的な反発
では、もし自動運転車や自律型ロボットが、膨大なデータ計算に基づいて「これが最も被害を少なくする最適な選択だ」という道徳的な判断を下し、誰かの命を犠牲にする行動をとった場合、私たち人間は心理的にそれを受け入れることができるのでしょうか。
ロボット心理学の研究によれば、人間は「機械が人間の生死や重要な判断を決定すること」に対して、極めて強い反発や嫌悪感を抱く傾向があります。これを心理学では「アルゴリズム嫌悪」と呼びます。人間同士であれば、たとえ悲惨な事故であっても「運転手もとっさのことで避けられなかったのだろう」「運が悪かった」と、ある程度の同情や理解を示す余地があります。しかし、相手が冷徹な機械であり、「計算の結果として、あなたの家族を犠牲にする方が合理的だと判断しました」と言われたらどうでしょうか。私たちの心は、血の通っていない機械によって命の価値を天秤にかけられ、切り捨てられたことに対して、到底納得することができません。
人間は、自分たちよりもはるかに速く正確に計算できるAIの能力を認めている一方で、「命の重さ」や「痛み」「悲しみ」といった感情を持たない機械が、人間の道徳的な領域に踏み込んでくることを本能的に恐れているのです。
責任は誰にある？メーカー、所有者、それともAI自身か
さらに深刻な問題となるのが、「ロボットが事故を起こしたときの責任は一体誰がとるのか」という法的な問題です。
これまでの自動車事故であれば、責任を負うのは間違いなくハンドルを握っていた「運転手」でした。しかし、完全な自動運転車が事故を起こした場合、乗っていた人はただ座っていただけであり、運転の操作は何もしていません。では、事故の責任は誰にあるのでしょうか。
「プログラムを作った自動車メーカーやIT企業に責任がある」と考える人も多いでしょう。しかし、最近のAIは「ディープラーニング（深層学習）」と呼ばれる仕組みを使っており、AI自身が過去の膨大なデータから学習して独自の判断基準を作り上げていきます。そのため、AIを作ったエンジニアでさえ「なぜAIがその瞬間に右にハンドルを切ったのか」、その思考のプロセスを完全に説明することができない「ブラックボックス問題」という壁にぶつかっています。
作った人間でさえ予想できなかったAIの行動について、企業がすべての責任を負わなければならないとしたら、恐ろしくて誰も新しいロボットを開発できなくなってしまいます。かといって、「AI自身の責任だ」として機械を裁判にかけてスクラップ（廃棄）にしても、被害者の遺族の心は救われません。ロボットが自律的に判断する社会では、過去の法律や常識では解決できない全く新しい責任の形を考え出さなければならないのです。
ロボットと人間が共生するためのルール作り
世界中で進む「AI倫理ガイドライン」の策定
こうした難解な「ロボット倫理」と「道徳的ジレンマ」の問題に立ち向かうため、現在、世界中の国や国際機関、テクノロジー企業が協力して、AIが守るべき新しいルール作りに取り組んでいます。
例えば、ヨーロッパではAIの利用に関する厳しい法律（AI法）の整備が進められており、人間の基本的人権を脅かすようなAIの使い方を厳しく制限しています。また、多くの企業が独自の「AI倫理ガイドライン」を発表し、「AIの判断基準は人間が理解できるように透明性を保つこと」や、「特定の人種や年齢、性別の人々を差別するような偏ったデータで学習させないこと（公平性の確保）」といった原則を掲げています。
アシモフの三原則のようにシンプルで完璧な答えは一つではありません。そのため、「最終的な命に関わる重要な決断は必ず人間が下すようにシステムを設計する（ヒューマン・イン・ザ・ループ）」といった安全装置を設けることや、万が一事故が起きた際の被害を補償するための新しい保険制度を構築するなど、社会全体でリスクを共有し、カバーし合う仕組み作りが急ピッチで進められています。
私たち一人ひとりが考えるべき「命の価値」とテクノロジーの未来
ロボットが道徳的な判断を下すためのアルゴリズムを決めるということは、裏を返せば「私たち人間自身が、命の優先順位や社会の正義についてどう考えているのか」を、プログラムという言葉で書き出す作業に他なりません。つまり、自動運転のAIが突きつけてくる「トロッコ問題」は、ロボットの問題ではなく、私たち人間自身の道徳観を映し出す鏡なのです。
AIやロボットの技術は、これからもすさまじいスピードで進化を続けるでしょう。便利だからといってすべての判断を機械任せにするのではなく、「どのような判断を下すロボットなら、私たちは社会の仲間として受け入れることができるのか」を、エンジニアや専門家だけでなく、道路を歩く歩行者であり、車に乗る乗客である私たち一人ひとりが考え、議論していく必要があります。人間と機械が信頼し合い、共に豊かな社会を築いていくための鍵は、私たち自身の「倫理観」の中にあるのです。
まとめ
ロボット心理学の第4回として、「ロボット倫理と道徳的ジレンマ」という深く重いテーマについて解説してきましたが、いかがでしたでしょうか。
自動運転車が直面する「トロッコ問題」は、正解のない過酷な選択です。そして、自分で状況を判断する自律型ロボットが誕生したことで、昔のSF小説で描かれた「ロボット工学三原則」のような単純なルールでは、現代の複雑な社会を乗り切れないことが明らかになりました。
冷徹な計算で命の優先順位を決める機械に対して、私たち人間は強い抵抗感や嫌悪感を抱きます。さらに、「事故が起きたとき、誰が責任を取るのか」という問題は、テクノロジーの進歩に法律や社会のルールが全く追いついていない現状を浮き彫りにしています。
ロボットに正しい倫理観を持たせるためには、まず私たち人間自身が「命の価値」や「公平さ」について深く考え、合意を形成していくしかありません。テクノロジーの未来は、私たちがどのような社会を作りたいかという強い意志にかかっているのです。
次回の第5回連載でも、人間とAIの関わりから見えてくる、驚きに満ちた心理学の世界をさらにわかりやすくお伝えしていきます。引き続き、ブログ「ちょっと気になる話題の宝庫」をお楽しみにお待ちください。
