人間の倫理とロボットの論理

▼人間の倫理は非理性的か：「トロッコ問題」が示すパラドックス　（WIRED VISION）
http://wiredvision.jp/news/200811/2008111121.html

ある状況下では、1人を犠牲にしてたくさんの人の命を救うことは全く正しいことに思える。一方で、同様の命の救い方が、良心に欠けると感じられる状況もある。道徳観念において、われわれの考え方は思ったほど理性的ではないのかもしれない。

「興味深いのは、一貫性に欠けていることだ」とハーバード大学の社会心理学者Mahzarin Banaji氏は言う。「われわれは突如としてカント主義的になる場合がある」

このパラドックスを何より明確に示すのが、「トロッコ問題」(トロリー問題)という古典的な思考実験だ。

5人が線路上で動けない状態にあり、そこにトロッコが向かっていると想像してほしい。あなたはポイントを切り替えてトロッコを側線に引き込み、その5人の命を救う、という方法を選択できる。ただしその場合は、切り替えた側線上で1人がトロッコにひかれてしまう。

多くの人は遺憾ながらもこの選択肢をとるだろう。死ぬのは5人より1人の方がましだと考えて。

しかし、状況を少し変化させてみよう。あなたは橋の上で見知らぬ人の横に立ち、トロッコが5人の方に向かっていくのを見ている。トロッコを止める方法は、隣の見知らぬ人を橋の上から線路へ突き落とし、トロッコの進路を阻むことしかない。[この問題は「The fat man」と呼ばれるもので、Judith Jarvis Thomsonが提案したトロッコ問題のバリエーション]

この選択肢を示されると大抵の人はこれを拒否する、とBanaji氏は述べた。カリフォルニア州パロアルトで10月26日(米国時間)に行なわれた、全米サイエンス・ライティング振興協議会(CASW)の会議でのことだ。[Time誌の記事によると、「5人を救うためでも線路に落とさない」と回答するのは85％にのぼる]

われわれは、1人をトロッコの前に突き落とすことと、トロッコを1人の方へ向かわせることとは、何かが異なるようだと直観的に感じる。しかし、なぜそう感じるのかは、社会心理学でも神経科学でも哲学でも、いまだ解明できていない。

　ウェブで話題になっているらしいので読んでみたが、なるほど、これは人間としては判断に苦しむところだなあ。おれがかんべむさしの名作を踏まえて呼ぶところの“『サイコロ特攻隊』的論理”に似ている。

　見知らぬ人を突き落とさねばならないかもしれぬ後者のシチュエーションであれば、誰でも思いつくであろうもうひとつの答えがある。すなわち、自分が飛び降りてトロッコを阻むという選択肢だ。

　ロボット工学三原則に照らすとすれば、後者のシチュエーションでは、ロボットはまちがいなく自分が飛び降りるだろう。人間であっても、他人一人を突き落として他人五人を救うなんてことをするくらいであれば、自分が犠牲になったほうがましであると考える人も、少なからずいるだろうと思う。いざそういう状況に置かれたとして、自分にそれを実行できる勇気が持てるかどうかは別にしてね。あくまで思考実験としてなら、そういう選択肢を取りたい、そういう自分でありたいと望む人は少なくないだろう。おれも、他人を突き落として「あれが論理的な判断でした」とあとからほざくくらいなら、咄嗟に自分が飛び降りるかもしれん。というか、飛び降りたい。だが、おれにはなにもできず、あたふたしているうちに、五人がトロッコの下敷きになるのを結果的に看過してしまうかもしれん。まあ、その可能性がいちばん高いだろうな。

　どうやらおれは、人間であるよりもロボットであったほうが、人間的に倫理的な行動ができそうだ。“トロッコ繋がり”というわけでもないが、「人間的な、余りに人間的なものは大抵は確かに動物的である」という芥川龍之介のアフォリズム（『侏儒の言葉』）に倣えば、「ロボット的な、余りにロボット的なものは大抵は確かに人間的」なのかもしれない。