« 最もよく聴いている曲 | トップページ | あたしだけ~? »

2008年11月16日 (日)

人間の倫理とロボットの論理

人間の倫理は非理性的か:「トロッコ問題」が示すパラドックス (WIRED VISION)
http://wiredvision.jp/news/200811/2008111121.html

ある状況下では、1人を犠牲にしてたくさんの人の命を救うことは全く正しいことに思える。一方で、同様の命の救い方が、良心に欠けると感じられる状況もある。道徳観念において、われわれの考え方は思ったほど理性的ではないのかもしれない。
「興味深いのは、一貫性に欠けていることだ」とハーバード大学の社会心理学者Mahzarin Banaji氏は言う。「われわれは突如としてカント主義的になる場合がある」
このパラドックスを何より明確に示すのが、「トロッコ問題」(トロリー問題)という古典的な思考実験だ。
5人が線路上で動けない状態にあり、そこにトロッコが向かっていると想像してほしい。あなたはポイントを切り替えてトロッコを側線に引き込み、その5人の命を救う、という方法を選択できる。ただしその場合は、切り替えた側線上で1人がトロッコにひかれてしまう。
多くの人は遺憾ながらもこの選択肢をとるだろう。死ぬのは5人より1人の方がましだと考えて。
しかし、状況を少し変化させてみよう。あなたは橋の上で見知らぬ人の横に立ち、トロッコが5人の方に向かっていくのを見ている。トロッコを止める方法は、隣の見知らぬ人を橋の上から線路へ突き落とし、トロッコの進路を阻むことしかない。[この問題は「The fat man」と呼ばれるもので、Judith Jarvis Thomsonが提案したトロッコ問題のバリエーション]
この選択肢を示されると大抵の人はこれを拒否する、とBanaji氏は述べた。カリフォルニア州パロアルトで10月26日(米国時間)に行なわれた、全米サイエンス・ライティング振興協議会(CASW)の会議でのことだ。[Time誌の記事によると、「5人を救うためでも線路に落とさない」と回答するのは85%にのぼる]
われわれは、1人をトロッコの前に突き落とすことと、トロッコを1人の方へ向かわせることとは、何かが異なるようだと直観的に感じる。しかし、なぜそう感じるのかは、社会心理学でも神経科学でも哲学でも、いまだ解明できていない。

 ウェブで話題になっているらしいので読んでみたが、なるほど、これは人間としては判断に苦しむところだなあ。おれがかんべむさしの名作を踏まえて呼ぶところの“『サイコロ特攻隊』的論理”に似ている。

 見知らぬ人を突き落とさねばならないかもしれぬ後者のシチュエーションであれば、誰でも思いつくであろうもうひとつの答えがある。すなわち、自分が飛び降りてトロッコを阻むという選択肢だ。

 ロボット工学三原則に照らすとすれば、後者のシチュエーションでは、ロボットはまちがいなく自分が飛び降りるだろう。人間であっても、他人一人を突き落として他人五人を救うなんてことをするくらいであれば、自分が犠牲になったほうがましであると考える人も、少なからずいるだろうと思う。いざそういう状況に置かれたとして、自分にそれを実行できる勇気が持てるかどうかは別にしてね。あくまで思考実験としてなら、そういう選択肢を取りたいそういう自分でありたいと望む人は少なくないだろう。おれも、他人を突き落として「あれが論理的な判断でした」とあとからほざくくらいなら、咄嗟に自分が飛び降りるかもしれん。というか、飛び降りたい。だが、おれにはなにもできず、あたふたしているうちに、五人がトロッコの下敷きになるのを結果的に看過してしまうかもしれん。まあ、その可能性がいちばん高いだろうな。

 どうやらおれは、人間であるよりもロボットであったほうが、人間的に倫理的な行動ができそうだ。“トロッコ繋がり”というわけでもないが、「人間的な、余りに人間的なものは大抵は確かに動物的である」という芥川龍之介のアフォリズム(『侏儒の言葉』)に倣えば、「ロボット的な、余りにロボット的なものは大抵は確かに人間的」なのかもしれない。



|

« 最もよく聴いている曲 | トップページ | あたしだけ~? »

コメント

初めまして。おじゃまします。

トロッコ問題、面白いですねぇ。
隣の見知らぬ人を突き落とすという選択肢。そのとき、その見知らぬ人も同じように相手を突き落とすべきか自分で飛び降りるべきか、それとも黙ってみているのかという葛藤をもっているのでしょうね。つまり、悩んでいる自分も突き落とされるかもしれない。その状況下で相手を突き落とそうとすればお互いに争いになるでしょうし、そうなれば二人とも落ちてしまう可能性もあります。しかもそれで2人ともトロッコから外れればトロッコはさらに5人をひいてしまう全滅のシナリオも出てくるわけですよね。
たぶん僕なら2人の安全を優先させてその見知らぬ人から少しでも遠ざかります。
見知らぬ人とはいえ、憎くはないのに殺すか殺されるかという極限までの感情を一瞬でも共有してしまうわけですからねぇ。感情を共有してしまった人をおいそれと殺すのは難しいのではないかと思うのです。

投稿: さんぱつや | 2008年11月16日 (日) 07時16分

 ロボット工学の三原則は健全な人間の倫理と一致するものであって、ロボット工学の三原則を守っていても人間ではないとはいえません。と、アジモフの短編にありました。
 しかし、ロボットは「必ず」三原則を守ります。三原則に反する行動をとったらロボットではありえない、すなわち人間のはずであるというのが、その短編のミソでした。

 正しいことをするのにも悩むこと、行動にブレがあることが人間の人間らしいところです。

投稿: 東部戦線 | 2008年11月16日 (日) 13時12分

同じアシモフに「最も人間的な人間、それはロボット-とロボットが結論を出す」のもありましたよね(タイトル忘れた)

アシモフがロボットを人間的に描いたのであって、現実に存在するロボットが人間的だということではないですが(そも人間的でない知性を描くことが人間に可能だろか?)

投稿: 村上 | 2008年11月16日 (日) 14時54分

橋から人を落としたらふつうに殺人罪だと思いますが、ポイントを切り替えた場合はどうなんでしょうね。
そもそも人が飛び降りたら、トロッコって止まるんでしょうか。まあ電車は人身事故でよく止まってますが。

投稿: 礫 | 2008年11月16日 (日) 18時24分

 礫さんの指摘は、この問題のポイントをついていると思います。

 ポイントの切り替えの時は放置していてもポイントを切り替えても、最低一人は死にます。ポイントを切り替えるという選択は一人を殺すというより、差し引き四人を助けるという選択になるわけです。
 それに対して人を犠牲にしてトロッコを停めるという行為は、ほっておけば無事な人間を一人殺すという行為をともなっています。
 ここにゲーム理論で処理しきれない人間の倫理があるのではないでしょうか。

投稿: 東部戦線 | 2008年11月17日 (月) 03時47分

 この問題も特定の文化的な価値観を前提としていると思います。「より多くの人命を救う方が倫理的」そこからすべてが派生している。

 しかし、「人は運命に逆らうべきではない」と言う価値観に立てば、何もしないですべてを運命に委ねるのがもっとも倫理的となる。(A)

 極端な場合、生きるのがあまりにも苦しく辛い世界であれば、生から解放される人が多ければ多いほど望ましく、それを実現するのが倫理的となりかねない。(B)

 で、A、Bが最初の問題と決定的に異なるのは、最初の状況は最低一人は死んでしまうその人が、死ぬという状況を望んでいない。人命を多く助けるのが良いという世界であるから、それは助ける人も助けられない人も同じ。

 ところがA、Bの場合、死んでしまう人は、自分が死ぬという状況を理由は異なるが望んでいるか、少なくとも納得している。

 何が言いたいかというと、いくつかの前提条件が異なると結論が180度転換しかねないこの種の倫理の問題を、死人の数あるいは助かる人間の数と、数の問題に転換してしまうのは、ある種、論点のすり替えじゃないだろうかと言うことです。

 例えば突き落とされて死んでしまうであろう一人の人間の意思が、最初の想定にはまったく反映されていないわけですが、電車を止めるという行為の重要な役割をになうその人物の意思をまったく無視するのが妥当か。
 彼が自分から飛び込んだとき、突き落とそうと考えて実行が遅れた自分は倫理的にどうか? とか、色々派生する疑問がある。

投稿: 林 譲治 | 2008年11月17日 (月) 22時30分

遅いレスですが。

>多くの人は遺憾ながらもこの選択肢をとるだろう。死ぬのは5人より1人の方がましだと考えて。

小生などは、そもそもこの文章を受け入れることが困難です。ポイントの切り替えという行為は、5人を救助することではなく1人に対する殺人にほかなりません。(まさに礫さんが指摘されるとおりです。)
それは、「あなた」が以前から「1人」の方に殺意を抱いていたら、と想定してみれば明らかでしょう。さらにその上で、線路の両方に1人ずつしかいなかったと想定してみればより鮮明です。
そこに5:1の比較や「救助」という言葉を持ち込むところに、この問題のトリックないし詐術があります。

今回のバリエーションは(発案者が自覚していたかどうかはわかりませんが)、このトリックに気付かせるものです。すわなち「ポイントの切り替え」を「突き落とし」に差し替えることで、読者は「あなた」の行為をありありと想像することができ、ポイントの切り替えと突き落とし(殺人)に実は差異がないことに、はっと気がつく、というわけです。

もともとの問題に立ち返れば、殺人であることを意識した上で、5人を救助するべきかどうか、に悩まなくてはなりません。

投稿: 飛浩隆 | 2008年11月19日 (水) 21時23分

 ロボット工学の三原則はよく考えられていて、意識的な殺人や傷害を禁じるだけでなく、「危険を看過する」ことも禁じています。救助可能な五人を助けないのは、その五人を殺すのと同じとされているわけです。
 つまり、一人を犠牲にするのも五人を見殺しにするのも、数が違うだけで同じに扱われます。「見殺しも殺し」なわけですよ。アジモフ的には。

 さて、ある映画の話です。
 宇宙空間で三人の宇宙飛行士が遭難します。地上にいる責任者は、救助活動を実施しても三人を救助できる可能性が少ないのみならず、統計にもとづく試算により事故や過労で三人以上が死ぬという予想値を提示して、はなから三人を見捨てようとするのですよ。
 もちろん、こんな非情な提案はみんなに否定されて、危険を冒しての救助が実施されます。
 ここでは救助活動によって三人以上の犠牲者が出るというのは「可能性」であって確実じゃないわけですが、トロッコ問題に通じるところがあると思います。
 「The fat man」の場合でも、人を突き落としても運なり努力なりで(できれば努力で)助かる可能性がほんのほんの少しでもあるなら、決断はずっと簡単になっちゃうんじゃないでしょうか。

 何が言いたいかって言うと、「犠牲を覚悟する」と「必要と思って殺す」というイメージに大差があるんじゃないかということです。イメージの差でしかないのかもしれませんが。

投稿: 東部戦線 | 2008年11月21日 (金) 00時04分

現実にその状況に置かれたら、いずれのケースでも「何もしない」という選択肢をとる人が一番多いのではないでしょうか。
どの選択をしても人が死ぬという状況下では、1人か5人かの重みに関係なく事が起こってしまうまで判断と行動を留保する「不作為」こそが、一番多くの人がとり得る行動なのではないかと思うのです。

もちろん、「誰も死なない」という逃げ道がある場合には、それが最も選択されるでしょう。
あるいは、天秤の片方に自分の生命が載っている場合には、保留する立場と自身の生命を守る立場とに別れるかもしれません。
しかし、誰かの生命と別の誰かの生命の二者択一であれば、決断をしないことが人にとって最も心理的負担が少ない安心できる選択なのではないでしょうか。

公衆の面前で理不尽な暴力を受けている人を黙って見守る野次馬の心理、どこか遠くの国の戦争をTVで見ているだけの視聴者の心理、多くのユダヤ人が収容所で殺されているらしいが自分はユダヤ人ではないから関係ないと思う大衆の心理、どこか命題の状況に置かれた人と通じるものがあるような気がしてなりません。

投稿: koga | 2008年11月21日 (金) 21時32分

 いや、この問題、みなさんのご見解を読むにつけ、一筋縄ではいかない正解のない問題だということがよくわかりました。

 私なりに突き詰めて考えると、“自分がここにこうして生きていることだけで、どこかの誰かをものすごく間接的に殺しているのではないか”というところまで行っちゃうような気がします。この問題のような状況を認識している“私”さえいなければ、あるいは、そんな計算さえできない程度の知能しかなかったら、五人助けるために一人殺すかどうかなどということを悩まなくてもすむわけです。

 私がここにこうして生きていることが、これこれこうしてあれこれああしてそれこれそうして、東京都杉並区の田中権三郎さんの命を明日奪うのだと、ラプラスの悪魔に明解に提示されたとしたら、私は果たして今日自殺すべきなのでしょうか? 「いや、いくらなんでもそんなことはない」という方は、私が生き続けることのほうが田中権三郎さんが生き続けるよりも“よいこと”だと私に納得させてくださるのでしょうか?

 つまるところ、倫理というのは、その倫理を“行使”(?)する人の想像力と能力とに依存する、きわめてふらふらしたものなのでしょう。「ふつうの人だったら、だいたいこれくらいの因果関係は推測できるだろう」という推定に基いているのが、ふつうに言うところの倫理なのではないかと。

 とすると、「大いなる力には大いなる責任が伴う」というのは、じつに深い言葉だなあと思います。エヴァに乗れる選ばれた能力を持っているくせに乗らないというのは、倫理に悖ることなのだかどうなんだか。

 大きな力を持っていればいるほど、大きな倫理に悩まなくてはならないということなのでしょう。私が一回の晩飯を食ったがために、世界のどこかで五人死んでいるなどということが、具体的に手に取るように自明の理としてはっきりと“わかる”透徹した能力の持ち主でなくてよかったと、しみじみ思うことです。

投稿: 冬樹蛉 | 2008年12月 5日 (金) 01時58分

コメントを書く



(ウェブ上には掲載しません)




トラックバック

この記事のトラックバックURL:
http://app.cocolog-nifty.com/t/trackback/161330/43127480

この記事へのトラックバック一覧です: 人間の倫理とロボットの論理:

« 最もよく聴いている曲 | トップページ | あたしだけ~? »