「Aを轢けばBが助かる」そのとき自動運転車は誰を殺すのか？――「トロッコ問題」が提起する倫理的ジレンマ | AMP[アンプ] - ビジネスインスピレーションメディア

自動運転車の開発が本格化している。トヨタは2020年の東京オリンピックで“お披露目”すると発表、ホンダはグーグル傘下のIT企業ウェイモと提携し、2025年までにはレベル4（システムによる主導運転）の自動運転車を開発すると名言している。 ドライバー不在でも、私たちの望む場所へ運んで行ってくれる夢のような車。以前なら、ドラえもんのポケットからしか出てきそうになかったようなシロモノの実現が目前に迫っている。 しかし、もしこの「夢の車」が殺人機になる可能性があるならば…あなたはどうするだろう。購入するか、それとも買い控えるか。そして、車が起こした殺人は誰の責任になる？ 2014年、自動運転車の「倫理観」を問う興味深い実験が行なわれた。もし誰かを犠牲にしなければならない場合、自動運転車はどのような選択をすべきか。いわゆる「トロッコ問題」である。 「Aを犠牲にしてBを救う」トロッコ問題とは？ 「トロッ

[pribetch]

賠償額の少ない方を瞬時に判別

[aa_R_waiwai]

自動運転だろうが何だろうが、急ブレーキする以外に、取る方法はないだろう。

[omega314]

目撃者含め皆殺し。ドライブレコーダーや監視カメラはディープフェイクで改竄。

[meganeya3]

どう判断しようがナミの人間より確実に被害が少ないので人間ドライバーを排除することがトロッコのブレーキ強化に該当する

[ysngttt]

みんな死ぬしかないじゃない

[nyoron0128]

トロッコ問題は線路を切り替える人間の正義とは何かを問うお話で、現在は好き放題拡大解釈されてるなと思った。なんでもかんでもシュレディンガーの猫みたい。

[nunota]

星新一賞のFinal Anchorsがそんな話だったな / ちなみにhontoで無料で読める

[x9999x]

前から気になっていた

[rub73]

出来るだけ確実にやって損害賠償金を減らす。

[REV]

思考実験で、水門を閉じれば都心は助かるが東部は洪水のリスク、ってのを考えてみよう。　考えた？　次は、山間部の住民を移住させてダムを作れば首都圏は助かるって奴な。

[deep_one]

記事中に出てこなかったが、「搭乗者を死なせるのが一番被害が少ない」場合にどうするべきかって問題もある。商品に金を出している搭乗者を死なせる設計が許容されるかどうか。

[quwachy]

歩道に突っ込んで園児を殺してでも自分が助かるのが人間の回答、それよりひどくなければいいよ

[onehiro]

そんな時間無いだろう。見つけた障害物を避けるだけ。同時にカメラが捉えたとしても画像処理を先にした方＝右上に近い方とかじゃね。複数同時に認識できるとしても1番空いてる隙間に突っ込むだろう。

[knok]

「賠償額の少ないほうを瞬時に判別」はDetroit: Become Humanだけっか

[regularexception]

運転手（乗員）のダメージが一番少ない選択では？

[akyuna]

自動運転というとトロッコ問題。大げさすぎる。狭い道で左に寄ったらガラス片を踏む、右に寄ったら垣根にこする、さあどうする。という問題と、次元の違う問題ということを機械が認識するわけないはず。

[garbagephilia]

トロッコ問題は、他人事感覚のお勉強の題材みたいなところがあるのでよく話題になるが、NIMBY問題（と迷惑施設を押し付けられた側の問題）は忘れられていて「八ッ場ダムスゲー」で終わってしまう現実がある。

[vndn]

工業機械と同じで監督者が必要でしょ。つまり利用者が責任を負う。整備不良の可能性だってあるしね / 人の命は平等かもしれないがロボットはそうじゃないんだから、AがHを救うかどうかの実験は倫理の話じゃなくない?

[lifefucker]

インド人を右へ

[princo_matsuri]

もう自爆するしか／車両に乗る以上、いつかは覚悟が必要な時が来る。どうしても回避したいならいつでも止まれる低速で運転すればいいと思う

[urtz]

SFっぽいけど、今までは個々の倫理観のゆらぎで結果が分散されたので偏りが生ぜず問題化しなかったが、今後自動運転に限らずあらゆる場面で均一のAIが採用されると想定を超えた倫理的問題が起きる可能性云々文字数

[vkgofboston]

自分はそういう事態を引き起こすことはなくとも他の交通(自動運転者、自転車、歩行者、手動運転者等)と絡む中で「ありえない」なんて考えるのは想像力に欠けてる気がする。

[hase0510]

「ブレーキを踏むしかない」「交通法規守るだけ」みたいな、話の前提が伝わってなさそうなコメントが結構多いすね・・・

[kniphofia]

止まるしかない

[yoiIT]

映画なら寸前でタイムスリップ

[kei_1010]

自動運転車のAIを誰でもシミュレーターでテストできるようになったら検証しやすくなるだろうから、メーカーには法律で検証可能性を担保するように定めたらどうか。

[mak_in]

トロッコ問題で大切なのは、正解不正解、代替案よりも、ひとつの選択に様々な犠牲を強いることもある現実を自覚的になることだと思ってる。

[sun330]

AIにロボット三原則を積んで欲しい(笑)

[sakahashi]

③壁に衝突させて止める⇒搭乗者は死亡、という選択肢をAIがするかもしれないというアイデアがあって、そんな自動車を誰が買うのかという反論もできる。話しとして科学なのか倫理なのかビジネスなのか。

[zubtz5grhc]

それでも人間が瞬時に判断するよりは適切な解を出せると思う。

[kuzudokuzu]

食ってエネルギーに変換して完全犯罪。

[Ingunial]

自動運転だと車の両端側に人が立っててどちらかをひくか、両方ひくか問題にすると分かりやすいのではないか。

[tkeisuke3]

事故起こしまくってる人間よりマシ

[t-murachi]

自動運転車の所有者による整備不良でブレーキが利かなくなった場合などは想定されるべきだと思う。ブコメで何言ってだ的な反応示している方々はその手の異常系のユースケースを考えられない人(´・ω・`)

[altar]

記事はともかく、交通法規を守るだけでいいというブコメには違和感がある。日常的に利用する黄信号にすら「安全に停止できない場合を除く」とかいうトロッコ問題的な条文が絡んでくるので。

[lastresortan]

リベラル的にはAでもBでも「アベが悪い」 になるんだろうな。

[nack1024]

乱数で

[PrivateIntMain]

お前を轢いたらそんなAIは法か物理かで死刑だろうけど、その前にお前が轢かれた時点でお前が痛いだろうし、お前が死んで悲しむ人間がいるってのは認識してほしいよ。じゃないと怖くて走れないよ。

[iww]

『開発中のホンダの自動運転車』 対象物を先制攻撃することで衝突を未然に防ぐデザインに見えた

[ryuichi1208]

第三の選択肢をきっと生み出してくれる？