AI・自動運転時代の哲学・倫理学:自動運転車は5人を殺すべきか?

shutterstock_597335510
石田 健

石田 健

株式会社マイナースタジオ代表取締役CEO。同社を創業後、2015年に株式会社メンバーズ(東証一部)に売却。早稲田大学政治学研究科修士課程修了(政治学)。

ITやテクノロジーの急激な発展に伴って、哲学や倫理学の重要性に改めて注目が集まっている。

例えば、岡本裕一朗『いま世界の哲学者が考えていること』は、人工知能などホットなテクノロジーと哲学の関係を扱っているし、三宅陽一郎『人工知能のための哲学塾』や松尾豊『人工知能は人間を超えるか』にも哲学的な主題が盛り込まれている。

そのため「人文学は役に立つのか?」という問いは、もはやあまり重要ではなく、「人文学の知見をテクノロジーの進む社会に適応させるならば、どのような方法があるだろうか?」という問いこそが意味を持つだろう。

一方で、日本の哲学者がテクノロジーと哲学・倫理学の問題を十分に扱いきれているかというと、少し疑問が残る。例えば岡本の著作であっても、基本的にはポストモダン以降の思想・哲学がどのように変化しつつあるのかという問題が中心に置かれており、具体的にテクノロジーや人工知能がもたらす問題を哲学・倫理学的に分析しているわけではない。

ところが、哲学や倫理学はテクノロジーの問題と私たちの想像以上に大きく関わっている。例えば、自動運転の車が2人の人間を轢きそうになり、どちらかを助ければどちらかが死ぬという状況があるとすれば、それは古くから「トロリー問題」と呼ばれる哲学や倫理学の中心的な命題そのものだ。

哲学・倫理学とテクノロジーが牽引する現代社会の距離は、かつてないほど近くなっている。にもかかわらず、その議論に倫理学や哲学が十分に入り込めていないとすれば、それこそが人文学の危機といえるかもしれない。

そこで今回は、自動運転とトロリー問題という題材をもとに簡単な哲学的・倫理的問題を考えていく。

トロリー問題

まずはじめに、先ほどのトロリー問題を題材に倫理学者や哲学者の考えを見ていこう。数多くのバリエーションがあるトロリー問題だが、基本的には以下のようなストーリーが出発点となる。

(1) 線路を猛スピードでトロッコが走っていたが、その前方には5人が紐で縛り付けられており、このままでは5人全員が死亡する。
(2) 幸いにしてこの線路には分岐器があり、トロッコは別の線路に引き込むことが出来る。
(3) ところが、この別の線路には1人が縛り付けられており、5人を助けるために分岐器を動かせばこの1人が死んでしまう。

09-trolley.w710.h473トロリー問題

倫理学者の”非倫理性”を示すような酷く非人道的な仮定だが、これには理由がある。

現実社会には、事故を防ぐために様々な対策が練られているが、思考実験ではあえて極限的な事例を扱うことで、倫理・道徳的な議論をクリアに、そしてシャープにする必要があるからだ。

こうした問題は、あながち倫理学者や哲学者の”極端な妄想”とはいえない。

第二次世界大戦中に、ナチス・ドイツから激しい爆撃を受けたコヴェントリーというイギリスの都市がある。

1024px-Coventry_Cathedral_Ruins_with_Rainbow_edit爆撃を受けたコヴェントリーの大聖堂

コヴェントリーを襲った爆撃について、古くから「イギリス政府はナチスの暗号を解いており、コヴェントリーが攻撃されることが分かっていたが、その後の戦局を有利に進めるため、あえて都市を見捨てた」という逸話がある。

この話自体は陰謀論として否定されているものの、実際の戦争で起こりそうな話ではないだろうか。イギリス国民全員の命を救うために、コヴェントリー住民を見殺しにすることは、果たして道徳的に許されるのだろうか?

トロリー問題

では、トロリー問題に対して哲学者や倫理学者はどのように答えているのだろうか?

大きく言うと、そこには2つの立場がある。1つは義務論、もう1つは功利主義と呼ばれている。

義務論では、他の目的(=5人の生存)を達成するための手段として人を利用すべきではないと考え、5人を助けるために1人を犠牲とすることは認められない。

義務論者の代表的な人物は、イマヌエル・カントだ。

イマヌエル・カントイマヌエル・カント

カントは、定言命法の第2定式において、「汝及び他のあらゆる人格における人間性を、単に手段としてのみ扱うことなく、常に同時に目的としても扱うように、行為せよ」と語る。

少しばかり難しい言い回しだが、トロリー問題でいえば、5人を助けるための手段として1人の命を扱うことは許されない。結果として5人は殺されることから、それは直感に反するかもしれないが、カントの定言命法は人権を考える上で重要な考え方だ。

たとえば現代社会では、それが国家の安全保障において重要であっても、拷問をおこなうことは不正だと見なされる。ここには人権の尊重が基盤にあるが、カント的に言えば、国家の安全保障という巨大な利益が見込めたとしても、1人の命をそのための「手段」として扱うことは許されない、ということだ。

一方の功利主義者は、1人を見捨ててでも5人を助けるだろう。その創始者と言えるよく知られた人物は、ジェレミ・ベンサムだ。

ジェレミ・ベンサムジェレミ・ベンサム

ベンサムは、人間は「快楽」を求め、「苦痛」を回避しようとするものであり、「最大多数の最大幸福」を目指すことが、より良い社会の基盤にあると考えた。

功利主義の画期的なところは、貴族であろうが平民であろうが1人は1人としてカウントすることにある。功利主義といえば、(トロリー問題を持ち出してくるように)冷酷なイメージがあるかもしれないが、各人の権利を平等に数える姿勢にこそ、歴史的・思想的な意義がある。

ベンサムの立場であれば、線路につながれた1人の「苦痛」は、5人の「快楽」によって正当化される。実際の行動として実行に移すかどうかはともなく、この事自体は直感的な選択に見えるかもしれない。

自動運転時代のトロリー問題

トロリー問題は、倫理学や哲学のちょっとした産業になっており、実際にはこれ以上のバリエーションもあれば、議論の内容も込み入っている。

とはいえひとまず、このトロリー問題を自動運転に当てはめて考えるとどうなるだろうか?

(1) 道路を猛スピードで自動運転車が走っていたが、その前方には5人が倒れており、このままでは5人全員が死亡する。
(2) ただし、この自動運転車のブレーキは壊れており、ハンドルを変えて5人を回避する他はない。
(3) ところが、ハンドルを変えた先には1人が倒れており、5人を助けるためにハンドルを切ればこの1人が死んでしまう。

実際には、自動運転車が事故を事前に予知しつつ回避する能力は、人間よりも高いはずだ。以下の動画では、テスラの「モデルX」が突然ドライバーに警告音を出し、直後に前方で事故が起きている。

動画を見る限り、トロリー問題は杞憂で終わる可能性が高いかもしれない。

しかしすでに述べた通り、トロリー問題は現実であまり起こり得ない状況を想定することで、倫理・哲学的な判断を迫る思考実験であり、実際のプログラムは最もハードなケースを想定して組まれるべきだろう。

自動車メーカーは何をするべきか?

つまるところ、自動運転をつくる企業やエンジニアが直面するのは、こうした倫理的・道徳的な命題をどのようにプログラムするかという問題だ。

もし企業が功利主義を支持するならば5人を助けるために1人を殺すだろうし、義務論者であれば1人を助けて5人が殺されるだろう。では、どちらが望ましい選択だろうか?

実はこうした観点から、実際に調査も行われている。例えば、MITがオンラインで実施するアンケート調査「モラル・マシーン」は、いくつかの状況を想定して、自動運転車がどのような判断をするべきかを第三者目線で答えるアンケートだ。(日本語版もある)

ユーザーは、信号無視をしている歩行者や、子ども、犬などのシチュエーションから、自動運転車がどう判断するべきかを決定する。

ではこうした調査結果を経て、社会的に最も好ましい選択をするように、自動運転車をプログラムすれば良いだろうか?しかし現実はそれほど簡単ではない。

shutterstock_517376548人はジレンマに直面する

ジャン=フランソワ・ボンヌフォン(トゥールーズ第一大学)らによる「自動運転車の社会的ジレンマ」と題された論文は、より興味深い調査結果を示している。

1928人を対象におこなわれた自動運転車に関する調査結果は、以下のようになった。

  • 76%の回答者は、10人以上の歩行者が犠牲になるならば、1人の歩行者が犠牲になる方が道徳的だと述べた。同時に、犠牲者の数を最小限に抑えるようプログラムされた「功利主義的な自動運転車」の方が、道徳的には望ましいと語った。
  • また自分や家族が犠牲者になると仮定しても、同様の傾向を示した。
  • しかし、自分や家族が犠牲になる状況では、彼らが実際に自動運転車を購入する傾向は有意に低くなった。彼らは「功利主義的な自動運転車」を歓迎すると語っていても、実際にそれを購入するとなれば足踏みする。
  • 加えて、もし「功利主的な自動運転車」を政府が規制すれば、回答者はそれに批判的でもあった。
  • 論文はその上で、市場に「功利主義的な自動運転車」と「(自分や家族を守る)自己防衛的な自動運転車」が出回れば、ほとんどの人が「自己防衛的な自動運転車」を選ぶだろうと結論づけている。

    トロリー問題のような状況で、人は功利主義的なプログラムを支持するかもしれないが、それが市場で受け入れられないことは、直感的にも想像しやすい。

    カント的な立場から、「為すがままに任せるべきだ!」と主張する人は少ないだろうが、功利主義的な自動運転車が受け入れられることも難しいはずだ。このことは、シンプルなトロリー問題がそのまま自動運転車の問題に適応できないことを示唆している。

    そして実際に私たちが考える必要のある問題は、シンプルなトロリー問題では収まりきらない。

    責任は運転手か企業か?

    まず考えられるのは、自動運転車でトロリー問題が生じた場合、その責任は誰にあるのかという問題だ。

    現在の法律において、交通事故を起こした人は刑事上・行政上・民事上の3つの責任を負う。しかし同時に、アクセルやブレーキなどに欠陥があり事故が起きた場合は、自動車メーカーの責任も問われる。

    2009年から2010年にかけてトヨタ自動車は大規模なリコールを実施したが、この時期には様々な形でトヨタ社の責任が追求された。

    toyota345-DW-Wirtschaft-NAGOYA-jpg

    しかしこれが自動運転車の場合はどうだろうか?「功利主義者な自動運転車」がもし5人を助けるために1人を殺した場合は、メーカーに責任は問われるのだろうか?あるいは、自動運転車にギリギリの判断を迫らせるような状況をつくった運転手に責任があるのだろうか?

    殺された1人の遺族ならば、メーカーや運転手だけではなく、「功利主義的な自動運転車」をつくるように規制した政府の責任も問うかもしれない。

    現代社会において、遺族が自動車を走らせることを許可した政府を訴えることは考えづらいが、「功利主義的な自動運転車」が出回る社会では、その規制をもたらした政府に責任があると考えることは、決して不当なものではないように思われる。

    5人を助けるために運転手は死ぬべきか?

    トロリー問題で登場する1人が、もし自分だったらどうだろうか?自動運転車のケースで言えば、以下のようなパターンだ。

    (1) 道路を猛スピードで自動運転車が走っていたが、その前方には5人が倒れており、このままでは5人全員が死亡する。
    (2) ただし、この自動運転車のブレーキは壊れており、ハンドルを変えて5人を回避する他はない。
    (3) ところが、ハンドルを変えれば自動運転車は間違いなく崖から落ち、運転手である自分は死んでしまう

    「功利主義的な自動運転車」ならば、運転手の意図に関係なくハンドルは勝手に切られてしまうかもしれない。残念ながら、自分であろうが他人であろうが1人は1人であり、5人を救うためには犠牲を強いる他ない。

    このストーリーは、トロリー問題よりも十分あり得そうな話だが、メルセデス・ベンツ社はいち早く、この問題について見解を示した。

    彼らによれば、「レベル4・5」と呼ばれる完全自動運転の自動車は、歩行者ではなく運転手自身を守るようにプログラムされる考えだという。

    メルセデス・ベンツ社の意思決定は、ジャン=フランソワ・ボンヌフォンらの研究に照らし合わせてみても合理的と言えるだろう。もし自分が買おうとしている自動運転車が、いざという時に自分を犠牲にするようプログラムされていると知れば、どれほどメルセデス・ベンツ社を愛していたとしても、人々はその製品を選ばなくなることは明白だ。

    プログラムを公開するべきか

    このように考えると、「功利主義的な自動運転車」と「自己防衛的な自動運転車」の戦いは圧倒的に後者が勝利を収めそうだ。

    しかしながら、ここで新たな疑問が湧いてくる。自動車メーカーは、プログラムの立場をわざわざ明言する必要があるのだろうか?

    現在の自動車を考えてみれば、その疑問が自然なものであることは明白だ。なぜなら、自動車の内部にはエアバックが搭載されているが、歩行者を守るために外部にエアバックがついた自動車は数少ないからだ。

    2012年には、ボルボ社が歩行者保護を目的としたエアバックを搭載させたが、1980年代から社内のエアバックが普及したことを考えても、自動車の基本的な考え方は、歩行者保護よりも運転手の保護である。

    自動車は、歩行者ではなく運転手を守ることが当然であるにもかかわらず、なぜあえて「自己防衛的な自動運転車」だと主張する必要があるのだろうか?

    この問題は、さきほどの「責任は運転手か企業か?」という問題と密接に関わってくる。

    「自動車」という語と矛盾するようであるが、これまでの自動車であれば、あくまでも操作をしているのは運転手である。しかし完全な自動運転車の場合、直感的に考えても、主体的に操作しているのが運転手であるとは言い難い。

    すると責任の範囲は、ただ「自動で動く機械」に乗っていた運転手から、その自動で動く機械をつくった企業にも広がっていくはずだ。そのことから、自動車メーカーにはプログラムがどのように動くかを表明する責任があるように思われる。

    実際にアウディ社やボルボ社は、レベル3以降の自動運転車について、死亡事故などの法的責任は企業が完全に負うと明言している。彼らがつくる自動運転車は「自己防衛的な自動運転車」となるだろうが、事故の責任を引き受けることで、そのプログラムの妥当性を主張しているようにも見える。

    16-audi-a8-843-photo-668196-s-original

    政府は規制をするべきか?

    実際には、企業がどのような立場を表明するにしても、市場の選好は最終的に「自己防衛的な自動運転車」に収斂していくはずだ。

    ところがもし、「自己防衛的な自動運転車」が悲惨な事故を起こした時、人々は途端に規制を求め始めるかもしれない。

    私たちの社会は、確率だけで物事を判断しているわけではない。飛行機で大事故に直面する確率よりも交通事故で死亡する可能性が高いと知っていたとしても、飛行機の大惨事にギョッとするだろう。

    例えば、5人の無垢な子どもが殺され、1人の運転手が守られるような事故が起きれば、特に自動運転車を持っていない人は、「自己防衛的な自動運転車」をつくるメーカーを声高に批判するだろう。最終的に政府は規制に乗り出すかもしれない。

    では、政府は「功利主義的な自動運転車」をつくるように規制するべきだろうか?

    すでに議論はトロリー問題を超えて、功利主義と義務論の闘いからリバタリアン(=自由主義)とパターナリズム(=家父長主義)の闘いになってきた。この政治哲学的な論争も明確な答えはないが、自動運転車に関する大きな議題の1つとなるだろう。

    現代の功利主義とトロリー問題

    議論はいまや、功利主義と義務論から遠く離れた場所にきた。しかし最後に、新たなタイプのトロリー問題を手がかりに、ふたたび両者の関係と自動運転車について考えてみよう。

    今回紹介したトロリー問題は非常にシンプルなものだが、すでに述べた通りトロリー問題は一大産業になっており、様々なバリエーションや議論がある。(デイヴィッド・エドモンズ『太った男を殺しますか?』などを参照)

    もちろん倫理学者や哲学者も、シンプルな功利主義や義務論だけを考えているわけではなく、より洗練された議論が展開されている。1つのストーリーを考えてみよう。

    (1) 道路を猛スピードで自動運転車が走っていたが、その前方には5人が倒れており、このままでは5人全員が死亡する。
    (2) その5人の中には自分の子どもが含まれている。
    (3) ただし、この自動運転車のブレーキは壊れており、ハンドルを切って5人を回避する他はない。
    (4) ところが、ハンドルを変えれば自動運転車は間違いなく崖から落ち、運転手である自分は死んでしまう。

    この状況では、運転手は(自分の子供を助けるために)崖から落ちることを選ぶのではないだろうか?ところが、このストーリーには続きがある。

    (5) しかし自動運転車は「自己防衛的な」プログラムになっており、ハンドルを切ることはできなかった。

    非情なストーリーではあるが、この話は2つの問題を提起する。1つは、功利主義であれ自己防衛であれ、1人を1人としてカウントすることは常に妥当か?という問いであり、もう1つは行為の結果として生じる出来事への道徳的後悔だ。

    1人は1人なのか?

    この話が非情なストーリーであるのは、2つの理由がある。1つは5人の中に子どもがいること、そしてもう1つはその子どもが自分の子供(家族)であるという点だ。

    もし功利主義者ならば、トロリー問題の中に家族関係があったり、子どもがいたとしても、その結論は変わらないのだろうか?

    「洗練された功利主義」(児玉聡『功利主義入門』)を提唱する論者ならば、そのように考えないだろう。

    J・S・ミルやウィリアム・ゴドウィン、そして現代ではピーター・シンガーなど、功利主義にも多様な論者がいるが、彼らは決して公平性を重視することで、身近な親しい人であっても、同じように1人としてカウントするべき(どのような状況であっても、功利主義的に考えてその人を見捨てるべき)とは言わないはずだ。

    800px-Singer1ピーター・シンガー

    現代で最も影響力のある功利主義者の1人、ピーター・シンガーに言わせれば、現代の功利主義は「たんに快楽を増進し苦痛を軽減することではなく、むしろ関係者の利益をー比較考量した上でー促進することを意味する」のである。(『実践の倫理』)

    自動運転車が、歩行者と運転手との関係を考慮してトロリー問題的な判断を下すことができるとは思えないし、その恣意的な判断は非常に論争的で非人道的なものであるように思われる。

    しかしこのポイントは、現代の功利主義が無慈悲に1人を1人としてカウントするわけではない点にある。その意味で、MITの「モラル・マシーン」やジャン=フランソワ・ボンヌフォンらの研究も、より広い視点で検討される必要があるだろう。

    道徳的後悔

    事故による道徳的後悔は、なにも自動運転車だけの問題ではない。しかし、あらためて自分が「自己防衛的な自動運転車」に乗っていることを自覚していれば、少しばかり決まりの悪い思いをするのではないだろうか?ましてや、その結果として先程のトロリー問題に直面するならば。

    「自己防衛的な自動運転車」であろうが「功利主義的な自動運転車」であろうが、道徳心理学は哲学や倫理学に大きな影響を持ちつつある。

    道徳心理学者のジョナサン・ハイトは、「道徳的に唖然とする」ストーリーを通じて、理性と感情の対立において感情の比重が非常に大きいことを主張する。

    Jonathan_Haidt_2012_03ジョナサン・ハイト

    ハイトが用いる、架空の「道徳的に唖然とする」エピソードはこうだ。「仲良し姉弟が、純粋な好奇心からセックスした。2人はきちんと避妊をおこなっており、このことは誰にも言っていない。果たして2人の行動を許容できるだろうか?」

    この話に、大半の人は嫌悪感を示す。彼らは、様々な理由をつけて姉弟の行為を道徳的に非難しようとするが、彼らは避妊もしており、誰にも迷惑をかけていないため、その批判はいずれも的外れとなる。

    人は何らかの道徳的判断をする時、理性に基づく理由ではなく、道徳的な直感=感情をベースに行っているということだ。

    実験倫理学は比較的新しい分野だが、ハイトのような知見やMRIによって脳の働きを分析するという、これまでにはなかった手法を取り入れながら、人間の倫理的判断をより多角的に検討しようとしている。

    例えばトロリー問題では、分岐器によって1人を犠牲にするパターン以外にも、太った男を橋の上から突き落としてトロッコを止める(もちろん男は死ぬ)という、より残酷なパターンがある。

    22f太った男を突き落とす?

    功利主義的には、太った男を突き落とすことで5人が助かるのであれば正当化されるかもしれないが、分岐器を作動させるよりも、太った男を突き落とす方が、道徳的な直感に反していると言えるだろう。

    功利主義という理性に基づけば、功利主義は1人を殺せと囁くかもしれないが、私たちの感情はそれに嫌悪感を抱くだろう。この矛盾は、私たちが理性と感情の両方に支配された生き物であることを示唆している。こうした感情を無視したまま、理性に基づく功利主義が優れていると、どのようにして主張できるだろうか?

    もしハイトの主張するように、人が道徳的直感によって動かされやすい生き物であるならば、そのことに配慮しないまま「自己防衛的な自動運転車」をつくることは何らかの問題を引き起こさないだろうか?

    ボンヌフォンらの研究から、人が「功利主義的な自動運転車」を支持することはわかっているが、実際に市場に出回るのが「自己防衛的な自動運転車」であるならば、その矛盾や後ろめたさは無視して良いものなのだろうか?

    おわりに

    トロリー問題は、いつの間にか人間の脳や心、そして感情を理解する必要に迫られた。最先端の科学的知見が、功利主義や義務論にどのような影響を及ぼしていくのかについては、今も世界の哲学者や倫理学者が議論を続けているところだ。

    こうした議論の行方は興味深いものの、同時に自動運転車が普通に道を走っている未来は待ったなしだ。Googleやテスラ、メルセデス・ベンツなど世界有数のテクノロジー企業や自動車メーカーがこぞって開発を進めており、それが実用化される未来はあと少しのところまで来ている。

    実用化を前にして、政府は規制を整備する必要があるだろうし、自動車メーカーも今回扱ったような倫理的問題を無視する訳にはいかない。そして、運転手であろうが歩行者であろうが、私たち一人ひとりも、この問題を考えざるを得ない日が来るだろう。

    この記事で扱ったトピックは、あくまで議論のガイドであり、詳細な問題に立ち入っているわけではない。しかし今回紹介した「問い」をスタートに、議論を始めることは出来るだろう。

    哲学・倫理学とテクノロジーが牽引する現代社会の距離は、かつてないほど近くなっている。テクノロジーがますます私たちの生活に入り込んでいく未来に、哲学者や倫理学者の仕事はかつてないほど身近なものになっていくのではないだろうか。