日々の生活の上で、欠かすことのできない交通手段として自動車があります。人やモノを運ぶのにとても便利な道具で、利用する機会も多いことでしょう。ですが、この自動車と決して切り離すことができないのが交通事故です。
年々減少はしているものの、毎年多くの死者を出しています。平成30年の10月末時点で2796人の死者が出ており、その半数が65歳以上の高齢者であると報告されています。（警察庁交通局交通企画課「交通事故統計（平成30年10月末）」より）
そのような社会問題を是正するのに期待されているのが、自動運転システムです。このシステムが現実のものになれば、自動車は今より安全で快適な乗り物になります。しかし、この自動運転システムには、あるひとつの大きな課題が存在します。
今回は、自動運転システム開発が抱える倫理的なジレンマについてご紹介していきます
自動運転システムとレベル
自動運転システムとは、全自動で自動車を運転する機能で、IoT、AI、5Gの技術が可能にするシステムです。運転者の負担を軽減し、今まで起こっていた人的事故を減らす効果が期待されています。この自動運転システムにはレベルが存在しており、段階に応じて機能が異なります。
自動運転レベルの表（フォルクスワーゲン公式サイトより）
自動運転レベル
レベル0
運転者がすべての操作を行い、機械的な支援は全く存在しない状態を指します。（「ABS＝アンチロックブレーキシステム」などは自動運転には含まれていません）
レベル1（運転支援）
アクセル、ブレーキ、ハンドルのいずれかを支援している状態です。
- 車線からはみ出さないようにハンドリングを補助する（車線逸脱防止システム＝レーン・キーピング・アシスト・システム＝LKAS）
- 車間を保つため、加減速を調整する（アクティブ・クルーズ・コントロール＝ACC）
- 前方の障害物を検知し、運転者に警告したりブレーキ補助を行う（自動ブレーキまたは衝突被害軽減ブレーキ）
レベル2（部分自動運転）
周囲の状況に合わせて、アクセル、ブレーキ、ハンドルのうち、複数の操作を行う状態です。レベル2までは自動運転ではなく、あくまでも運転支援でドライバーの操作を補助する程度にとどまります。
- ACCとLKASを組み合わせることにより、先行車両を自動で追従走行する
- 上記を発展させた、渋滞時追従支援システムがある（渋滞の低速時のみに限定した支援システム）
レベル3（条件付自動運転）
特定の条件において、自動で運転を行います。ただし、システムがドライバーに要請を行った場合は、人間が運転をする必要があります。この要請とは、ほぼ緊急時に限られていているため、人間側が咄嗟に対応できないとして問題になっています。
このレベル3の段階で自動運転と呼ぶことができ、2019年ではこのレベルにいます。
レベル4（高度自動運転）
緊急時も含めた特定の条件において、自動で運転を行います。ただし、悪天候や自動運転に支障が出る環境において、人間が運転をする必要があります。
日本では2020年までに、このレベルまでの実用化を目指しています。
レベル5（完全自動運転）
すべての条件において、自動で運転を行います。ドライバーが運転をしないので、アクセル、ブレーキ、ハンドルを排除した自動車にできるとされています。
日本では2025年までに、このレベルまでの実用化を目指しています。
トロッコ問題（＝トロリー問題）とは
「ある人を助けるために、他人を犠牲にするのは許されるのか？」という、倫理的なジレンマを考える思考実験がトロッコ問題です。まずは例題を見てください。
一般的なトロッコ問題
状況
- 一両の路面電車が走っていて、線路の先に5人の作業員が作業をしている
- 走行中の車両は制御不能で停止できず、5人の作業員へと向かっている
- 作業員たちの手前には分岐点があり、分岐先では1人の作業員が作業している
- 今、あなたの前には分岐点の切り替えレバーがある
トロッコ問題のイメージ（ウィキペディア「トロッコ問題」より）
問題
あなたはどうしますか？
- レバーを動かさない（5人犠牲になる）
- レバーを動かす（1人犠牲になる）
要約するとこのような問題です。補足として、路面電車には乗客が乗っているので、脱線という選択肢はありません。作業員たちはその場から動けないので、必ずどちらかが犠牲になります。
このトロッコ問題は、正解を当てるものではありませんし、犠牲を良しとするものでもありません。あくまでも実験なので、どのように考えるかというテストのようなものです。
MORAL MACHINE
自動運転とトロッコ問題で、よく話題に上がるものに「MORAL MACHINE」があります。MIT（マサチューセッツ工科大学）が開設したこのウェブサイトは、もし運転中のAIがトロッコ問題のような局面に直面したとき、どのような選択が賢明かを集計する目的で運営されています。参加者は13問の二択問題が出題され、どちらかを選んでいきます。
出題内容はトロッコ問題同様に、いずれかの犠牲を強いないといけないものが中心です。状況は下記の内容です。
- 運転しているのはAIで人間ではない
- 自動運転中の車両のブレーキが故障した
- 前方には歩行者あるいは障害物がある
- 歩行者の誰を犠牲にするか、あるいは搭乗者が犠牲になるかを選択する
解答者は、あくまでも上記内容を目撃した第三者で、AIが行うべき判断を客観的に選んでいきます。
さらに問題のシナリオにはいくつかのパターンが存在し、搭乗者と歩行者は出題の都度、内容が変わります。例題として、実際にMORAL MACHINEのシナリオを見てください。上の画像が状況のイラストで、下の画像がシナリオです。（以下添付画像はMORAL MACHINEより抜粋）
例題1
画像をクリックすると拡大画像で見られます
例題2
画像をクリックすると拡大画像で見られます
このMORAL MACHINEは、10ヶ国語対応で日本語にも対応しています。興味のある方は、簡単なのでやってみてください。解答後は、学歴や年収などを答えるアンケートがありますが、任意なので応える必要はありません。
AIとトロッコ問題
トロッコ問題はあくまでも例え話であり、常識で考えれば、まず起きることはありません。作業員が作業を行うならば普通は運休になるでしょうし、運休にならないなら作業はしないでしょう。その点はMORAL MACHINEも同じで、都合悪く信号無視が発生し、偶然障害物があり、しかも同時にブレーキも壊れるという状況は、もはや不運としか言いようがありません。すべては荒唐無稽の話です。
とはいえ、AIにより完全に無事故にできるのかと言われれば、それは無理でしょう。自動運転で事故をゼロにできるかどうかは、やはり人間側にかかっているといえます。
極端な話ですが、走行中の自動車に歩行者が飛び込んできたら、いかにAIといえど避けようがありません。このときAIが歩行者の認識したとき、優先すべきは歩行者か搭乗者か、ここでトロッコ問題に当たります。
搭乗者と歩行者どちらが優先？
日本の道路の場合、交通弱者が優先的に保護されます。この交通弱者とは自動車に乗ってない人を指します。この基準に照らし合わせると、AIは歩行者を優先的に保護して、搭乗者を犠牲にする判断を下す形になります。当然、自動車には搭乗者を守るための安全装置を備え付けてはいるでしょうが、非常時に自分が犠牲になる前提の乗り物には、流石に載りたくはありません。
上記で例えた話ように歩行者側に非が見止められる場合、搭乗者のほうに不利を背負わせて良いのかという点があります。
自動運転の責任の所在
事故が起きた場合、原因のよっては責任が発生します。では、現状責任についてはどのように解釈されているのでしょうか。
あくまでも基準ですが、レベル3以下はドライバーの責任になります。レベル1～2は運転支援システムなので、徹頭徹尾ドライバーが操作をしており、レベル3は緊急時のみドライバーが操作を行います。これは、いずれの最終判断も人間側で行うので、従来のレベル0と変わらないという考えです。
では、レベル4以降はどうでしょう。通常時から緊急時に至るまで、すべての操作をAIが行うので、その責任は基本的にはシステム側にあると考えられています。ドライバー側に一切の責任は無いとはいえませんが、比重でいえばシステム側（更にいえばメーカー側）に大きくあるといえます。とはいえ法整備がまだできていないため、この解釈にはまだ法的根拠はありません。今後どのように、法律が整備されるのか注目していく必要があります。
トロッコ問題が抱える問題点
トロッコ問題の原則として、「二重結果論」という言葉が存在します。これはある物事に対して、意図した結果と予見できた結果に区別します。意図した結果とは狙ってやったことで、予見できた結果は副次結果になり、起こった物事に対して、予見できた結果の責任は問わないというものです。上記で例えた歩行者と搭乗者の場合、過失の有無はあるでしょうが、予見できた結果としての発生した犠牲は、責任として問うことはできません。
実際に事故が起きた場合、判断を下すのはAIです。そして、このAIが行う判断基準を設けるのは人間であり、結局は人間がどう判断するのかといえるでしょう。トロッコ問題の最大の難題は、人間側で選択に貴賎を設けることができない点だと思います。もしここに善悪を決めるのであれば、あとは司法にゆだねるしかありません。
まとめ
今回は、現在起こっているテクノロジーの難題について取り上げてみました。この問題は日本のみならず、世界中で議論されている課題です。ただ、中にはトロッコ問題が現実と乖離し過ぎているため、議論の余地もないと考えている人もいます。
自動運転により、事故は確実に減少するといわれています。ですが、ゼロにはできないと誰もがいいます。今後、私たちにもたらされるものは、便利で快適なものですが、決して万能ではないことを理解しておく必要があります。
結局、自らの身を守る方法は、ちゃんと交通ルールを守るという当たり前をすることなのだと思います。そもそもトロッコ問題を起こさないように心がけましょう。
