PR

道徳スイッチ|自動運転に倫理を選ばせる時代【5分後の未来の社会学 第2弾 第4回】

5分後の未来の社会学
この記事は約11分で読めます。

はじめに

第2弾の第4回です。第1回「思い出の消しゴム」では記憶の「編集」を、第2回「夢の上映会」では夢の「記録と上映」を、第3回「余命マーケット」では寿命の「売買」を見てきました。第2弾の柱は「編集する・売買する・肩代わりする」技術です。今回は、その「肩代わり」の物語です。肩代わりされるのは、運転ではありません。判断そのものです。もし、避けられない事故の瞬間に「誰を守るか」を、車の持ち主があらかじめ設定しなければならないとしたら――あなたは、どの設定を選びますか? 今回のテーマは、自動運転の倫理と「道徳の設定」です。

👇 本記事でわかる3つの重要ポイント 👇

  • 【テーマ1】トロッコ問題とモラル・マシン実験でわかった「みんなの道徳」の国ごとの違い
  • 【テーマ2】ドイツの倫理ガイドラインに見る、自動運転のルールづくりの考え方
  • 【テーマ3】「おまかせ設定」に判断と責任を預けることの落とし穴

形式はこれまでと同じです。まず星新一風の短い物語をお読みいただき、そのあとで、物語に潜む倫理学・心理学・社会学の論点を4つ解説します。読み終えるころには、スマホの「推奨設定」を見る目が少し変わっているはずです。

ショートショート「道徳スイッチ」

エフ氏が完全自動運転車を買った日、納車の説明は、最後の最後に妙なところで長引いた。

「お客様、発進の前に、ひとつだけ設定が残っております」

担当者はタブレットを差し出した。画面には「倫理プロファイル」とあり、その下に選択肢が並んでいた。

――同乗者を守る。歩行者を守る。被害を最小にする。メーカーおまかせ。

「万が一、どうしても事故が避けられない場合に、車が何を優先するかを決める設定です。通称『道徳スイッチ』と呼ばれております。法律で、購入時の設定が義務づけられておりまして、未設定では発進できない仕様です」

エフ氏は腕を組んだ。

「……『メーカーおまかせ』というのは」

「メーカー推奨の、標準的な設定です。お客様の九割以上は、そちらでお乗りになっています」

なお、画面の下には有料オプションもあった。「家族あんしんパック(月額)」。同乗者の保護を、さらに強化するのだという。

エフ氏はしばらく画面を見つめ、やがて、決然と「歩行者を守る」を押した。自分だけ得をする設定は、なんだか後ろめたかったのである。

帰宅した、その夜のことである。娘から電話がかかってきた。

「お父さん、明日、新しい車で孫を動物園に連れて行ってくれる?」

エフ氏は受話器を置くと、しばらく考え込み、それからスマートフォンを取り出した。設定はアプリから、いつでも変更できるのである。

「歩行者を守る」を、「同乗者を守る」に変えた。

孫の顔が浮かぶと、そうせざるを得なかった。だが、布団に入ってからも、胸のつかえが取れない。歩道を歩く人々の顔が、次々に浮かんでは消えた。

翌朝、エフ氏は紙を取り出し、ルールを書き始めた。

「家族が乗る日は『同乗者』。自分ひとりの日は『歩行者』。雨の日は……」

書きながら、自分でも呆れた。道徳が、カレンダーで決まるものだろうか。天気予報のように、毎朝確認するものだろうか。

その日、エフ氏は歩いて、パン屋へ行った。横断歩道を渡りかけると、自動運転の配送車が、すっと止まって道を譲った。エフ氏は思わず会釈し、こう思った。あの車の持ち主は、「歩行者を守る」に設定しているに違いない。

だが、次の瞬間には気づいた。あれはただ、普通に止まっただけかもしれない。設定など、確かめようがない。そもそも、道徳スイッチが本当に働く場面は、一生に一度あるかないかだ。エフ氏の車も、この一週間、一度もそんな判断はしていない。毎日が、穏やかなのである。

週末、町内の集いで、同じ車に乗る友人とこの話になった。

「うちは最初から『おまかせ』だよ」

「中身は、知っているのかい」

「知らないね。みんな、そうしてるじゃないか」

エフ氏は帰宅すると、メーカーのサポート窓口に電話をかけた。

「あの、『メーカーおまかせ』というのは、具体的には何を優先する設定なのですか」

丁寧な声が、少し間を置いて答えた。

「おまかせ設定の内容は、ご登録いただいている全オーナー様の設定の平均をもとに、自動で決まる仕組みでございます」

「平均、ですか。では、その平均を作っているのは」

「お客様お一人おひとりの、設定でございます」

エフ氏は、受話器を置いて、しばらく天井を見上げた。

九割以上の持ち主が「おまかせ」を選んでいる。その「おまかせ」の中身は、全員の設定の平均である。つまり平均を決めているのは、平均だった。円の中心には、誰もいなかったのである。

その夜、エフ氏はカレンダーのようなルール表を破り捨て、自分の車の設定を「メーカーおまかせ」に切り替えた。

道徳スイッチを「おまかせ」にした夜、エフ氏はひさしぶりに、よく眠れた。

道徳は設定できるのか?自動運転の倫理をめぐる議論

持ち主が「誰を守るか」を選ぶスイッチは、現実には存在しません。けれども、「避けられない事故のとき、機械は何を優先すべきか」という問いは、哲学の古典として何十年も議論されてきました。そして自動運転の時代に入り、実験と制度の両面で真剣に検討されています。ここからは、物語に隠れていた4つの論点を見ていきましょう。

1. トロッコ問題とモラル・マシン――「みんなの道徳」を測ってみたら

出発点は、有名な思考実験(頭の中だけで行う実験)の「トロッコ問題」です。暴走したトロッコの先に5人がいます。レバーを引けば進路が変わり、代わりに別の1人が犠牲になります。引くべきか、引かざるべきか、という問題です。

この問題は、哲学者のフィリッパ・フットが1967年に提起し、ジュディス・ジャーヴィス・トムソンが1976年と1985年の論文で発展させました。トムソンの示した「歩道橋」の変形では、5人を救うために、橋の上の人を突き落としてトロッコを止めます。数字の上では同じ「1人対5人」でも、多くの人の直感はここで反転します。

この古典的な問いを世界規模の実験にしたのが、MITメディアラボの「モラル・マシン」です。ウェブサイト上で、自動運転車のジレンマ(どちらを選んでも犠牲が出る板ばさみ)への判断を募りました。2018年に科学誌『ネイチャー』に発表されたアワドらの論文によると、233の国と地域から、数百万人による約4,000万件の判断が集まりました。

全体を通して強かったのは、「人間を動物より優先する」「より多くの命を優先する」「若い命を優先する」という傾向でした。ただし、国や文化による差もはっきり出ました。各国は「西洋」「東洋」「南方」の3つのクラスター(似た傾向を持つグループ)に分けられました。

日本を含む東洋クラスターでは、若者を年長者より優先する傾向が比較的弱く、年長者への敬意の表れと解釈されています。また、日本の参加者には歩行者を優先する傾向が見られたと報じられています。「正しい道徳」は、国境を越えると姿を変えるのです。

2. 「他人には正しく、自分は守られたい」――ボヌフォンらのジレンマ

ところが、「みんなの意見」は、聞き方を変えると答えが変わります。心理学者のボヌフォンらが2016年に科学誌『サイエンス』に発表した研究は、6つの調査でこの問題を掘り下げました。

結果は、率直で、少し意地悪なものでした。人々は「乗っている人を犠牲にしても歩行者を救う」功利的(全体の犠牲を最小にする考え方)な自動運転車を、道徳的に正しいと評価します。他人にはそういう車を買ってほしいとも考えます。ところが自分が買うとなると、「何があっても同乗者を守る」車を好むのです。

さらに、功利的な設定を法律で義務づけることには反対し、そんな規制のある車は買いたくない、と答えました。研究者たちは、ここに逆説を見ました。安全なはずの自動運転車の普及が、規制への反発で遅れれば、かえって犠牲者は増えかねません。「正しさ」を押しつけることが、全体としては「正しくない」結果を招くかもしれないのです。エフ氏がカレンダーで設定を変えた姿は、この研究の参加者たちと驚くほどよく似ています。

3. ドイツの答え――「人の属性で選別してはならない」

では、現実の制度はどう答えたのでしょうか。代表例が、ドイツ連邦交通・デジタルインフラ省の倫理委員会が2017年6月に公表した、自動運転に関する20項目の倫理ガイドラインです。

その内容は明快です。主なポイントを整理すると、次のとおりです。

  • 避けられない危険な状況では、人間の命の保護が最優先であり、動物や物の損害は受け入れるべき
  • ジレンマの場面で、年齢・性別・心身の状態といった「個人の属性」にもとづいて人を区別することは厳しく禁止
  • 犠牲者同士を相殺する(命を数で差し引きする)ことも禁止
  • 死傷の「総数」を減らすための一般的なプログラムは認められうるが、リスクを生む側が無関係な第三者を犠牲にしてはならない

委員会はまた、本当のジレンマの判断は状況によって変わるため、倫理的に文句のつけようのない形で標準化・プログラム化することはできない、とも述べています。

モラル・マシンで多くの人が示した「若い命を優先する」という好みは、このガイドラインではまさに禁止の対象です。持ち主が優先順位を自分で選ぶ「道徳スイッチ」という発想自体、少なくともこの立場からは認められません。道徳は、個人の設定に委ねるものではない――それが、ひとつの国の公式の答えでした。

4. 責任と「設定」の商品化――「おまかせ」が奪うもの

最後に、物語の核心です。仮に道徳スイッチが実在し、持ち主の設定どおりに車が動いて、誰かが傷ついたとします。責任は、誰にあるのでしょうか。

設定を選んだ持ち主でしょうか。選択肢のメニューを設計し、「おまかせ」の中身を決めたメーカーでしょうか。それとも、設定ごとに保険料を変える保険会社でしょうか。「選んだのはあなたです」「作ったのはメーカーです」「引き受けたのは保険です」と、責任は当事者のあいだをぐるぐる回り、どこにも着地しません。設定という仕組みは、判断を楽にする一方で、責任の所在を曖昧にするのです。

さらに物語では、道徳そのものが商品になっていました。「家族あんしんパック(月額)」です。同乗者の保護が、月額料金で「強化」されます。お金を払えば、少しだけ「よい側」に寄せられるわけです。ですが、買える設定は、判断とは違います。判断とは本来、その場に居合わせた者が引き受けざるを得ないものだからです。

エフ氏の「おまかせ」は、全員の平均でした。これは物語の仕掛けですが、現実の私たちにも覚えがあります。多くのサービスで、私たちは「推奨設定」をそのまま使い、中身を読まないまま同意しています。「みんなと同じなら安心」という感覚は、判断を手放すことへの静かなご褒美なのかもしれません。エフ氏がよく眠れたのは、道徳的になったからではありません。道徳的である必要から解放されたからでした。

よくある質問

道徳スイッチは実在するのですか?

いいえ、実在しません。この記事の物語に登場する架空の仕組みです。ただし、「避けられない事故のとき、自動運転車は何を優先すべきか」という問いは、研究や国の指針で実際に議論されています。

トロッコ問題とは何ですか?

暴走するトロッコの進路を変えれば5人が助かり、別の1人が犠牲になる、という状況で、どうすべきかを問う思考実験です。哲学者フィリッパ・フットが1967年に提起し、ジュディス・ジャーヴィス・トムソンが発展させました。自動運転の倫理を考える出発点としてよく使われます。

モラル・マシン実験で、日本の人々にはどんな傾向がありましたか?

日本を含む東洋クラスターでは、若者を年長者より優先する傾向が比較的弱いという結果でした。また、日本の参加者には、同乗者より歩行者を優先する傾向が見られたと報じられています。

ドイツの倫理ガイドラインでは何が禁止されていますか?

避けられない事故の場面で、年齢・性別・心身の状態などの個人の属性にもとづいて人を区別することが禁止されています。犠牲者同士を相殺することも認められていません。一方で、死傷者の総数を減らすための一般的なプログラムは認められうる、としています。

まとめ

道徳スイッチは実在しませんが、「おまかせ」に流れる感覚は、今日の生活のあちこちにあります。トロッコ問題やモラル・マシンが示したように「みんなの道徳」は国や聞き方で揺れ動き、ドイツは道徳を個人の設定に委ねない道を選びました。そして「おまかせ」は判断を楽にする一方で、責任の行き先を見えにくくします。

今日からできる小さな実践

  • 使っているサービスの「推奨設定」の中身を、一度だけ読んでみる:スマホやアプリの初期設定が、自分の情報をどう扱っているか。全部でなくて構いません。ひとつ読めば、「おまかせ」の正体が少し見えてきます。
  • 判断を任せる前に、自分の線引きを一言で決めておく:家族の緊急連絡の順番、写真や連絡先をどこまで共有するか。「任せたあと」ではなく「任せる前」に決めるのがコツです。
  • 「いざというとき」の希望を、平らな気持ちのうちに家族と話しておく:救急のとき、介護のとき、連絡してほしい相手。重い話にせず、「念のため」の一言からで十分です。その一言が、いざというときの誰かの判断を、ずっと楽にします。

まずは今日、スマホの設定画面をひとつだけ開いてみてください。設定は、変えることができます。けれども「何を大切にするか」は、設定の前に、自分の中にしか置けません。

次回予告

第5回は「友情ポイント」。友人との関係に点数がつき、その点数が公的な評価にまで影響する社会。友情が「数値」で管理されるとき、人と人のつながりに何が起きるのでしょうか。どうぞお楽しみに。

参考リスト

タイトルとURLをコピーしました