死亡事故を起こしたUberの自律走行車は、「車道を渡る歩行者」を想定していなかった：調査報告から明らかに

[softboild]

id:redra22さん、uberの出した動画では暗がりから突然出てきたように見えるんだけど、実際の現場は横断前の歩行者が視認できる明るさだったようです。https://youtu.be/CRW0q8i3u6E

[redra22]

Uberに問題がある事は確かなんだけど、当該の動画を見るに人間が回避出来る気がしない。https://www.afpbb.com/articles/-/3168375 /指摘ありがとう。自分は人間が運転するよりマシな未来を期待している。

[htnmiki]

ルールを守る機械、ルールを守らない人間、さあどうする！

[el-condor]

これまだ公道を走るレベルじゃなかったんじゃないの。クローズドなエリアでも検証可能なように思うけど/そもそもUberみたいな微妙な体質のところに自動運転の公道上での検証を許可したのがねえとは思わんでもない

[Talgo]

「バグでした、アップデートします」みたいな感覚で自動車を開発するとこういうことが起きる。

[augsUK]

よくこんなので公道許可が出てたな。なんのチェックもしないの？Uberは自動運転になって初めて黒字化するという、世界で一番自動運転を望んでる会社だろうけど、本当に人の命はどうでもいいんだな

[hate_flag]

殺人マシーンが公道を走ってたようなもんじゃねえか・・・

[snipesnaps]

これに限らず、「広義のAIにかろうじて当てはまるだけのデタラメ」がいかに幅を利かせてるか。現状のAI市場みてるとほんとイヤになる。

[zu2]

“Uberの社内体制に明らかな過失がいくつかあったことが指摘されている。例えば、自律走行車による試験プログラムには運行の安全を管理する部署が存在せず、安全管理者もいなかった”

[channelsland]

こんな状態のまま開発が進められるってことは、設計思想として安全への配慮が根本的に欠けてるとしか思えない。他にどんな欠陥が隠れてるのか、、、恐ろしい。やっぱりUberって、こういう会社なんだなぁ。

[takeshiketa]

日本だと規制が強くてとかいうけどこういう技術的な冷静な検証できるんだろうか

[higemoripan]

なんとも言えない。初期バージョンから改修改善を重ねるのがソフトウェアだとしたら、イレギュラー想定が後から実証実験の結果追加されるのは通常だけど、事故を起こすのは避けたいよな。航空機制御も同じだが。。

[dltlt]

歩行者を見ようとしないと歩行者が見えないシステムなのか？ 歩行者であると判らなくても「謎の動く障害物」だとして対処できないものだろうか。

[jacoby]

自律運転なんてISO26262のASIL-Dだよね。ハザード分析どうなってたんだろう。ハザード分析の内容も見ないで実証実験に許可だしちゃうもんなの？むちゃくちゃ怖いんだけど

[vabo-space]

ドラレコに引きずられすぎ、記事読もう。｜衝突5.6秒前に女性の存在を認識、車道上（＝直前飛び出しではない）。1.2秒前に危険判定も謎の1秒待機設計で0.2秒前やっとアラーム｜結論：欠陥設計。人の運転ならば回避余裕

[jaguarsan]

海外は知らんけど日本だと車道横断は禁止されたケース(横断歩道30m以内、車両の前後、横断禁止)以外は合法

[debabocho]

これは凄い。一昔前ならこのプロセスと原因そのものが小説としてSFマガジンあたりに載ってた。

[kuroyuli]

「ビル･ゲイツ対ＧＭ」ってネタを思い出すなあ。バグは起こってから直せばいいというIT産業と、不具合は人身事故につながるため、全力で未然に防がねばならないという車産業の差。http://www.cybersaizensen.com/joke/joke07.html

[ysfm]

coinhiveの件とどこか繋がっている気がしないでもない。

[differential]

自動運転業界、一番先にたどり着いた一人の勝ち組とそれ以外全てがloserのチキンレース感ある。

[fujitsuka]

移動する物体として認識しているなら、回避行動すればいいだけなのに。。。人かどうかと認識処理させてることが無駄。

[KimuraShinichi]

横断する認識候補に歩行者を含めるのは横断歩道を認識した場合に限って？　安全視点が弱すぎた。で、その対策が同乗する安全オペレーターを2人に増やす？　…もたれあってかえって判断遅延につながらないかな。

[pikopikopan]

仕様がそもそも人間対象じゃないのか

[jintrick]

想定できなきゃ回避できない設計だとしたら、ゴミ。

[kamei_rio]

"システムの設計は横断歩道以外の車道を渡る歩行者を考慮していなかった" 仕様がすごい

[kiyo_hiko]

「事故を起こさない運転なんて不可能」エントリーと一緒に表示されてる

[ueshin]

法定どおりの動きをしないと問答無用ではね殺しますよ。怖すぎるAI。

[tanayuki00]

「女性が歩いていたことを車両が認識できなかった理由は、単純だが腹立たしいものだった。Uberは車両に対して、横断歩道以外の車道で歩行者を探すようには指示していなかったのだ」

[shoot_c_na]

じこはおこるさ

[douai]

サンデルさん本によれば、死亡事故の一人あたりは、1億6千万だそうなので、いくらか掛け算して罰金払えばチャラになる国なんじゃないのすか

[oktnzm]

つか車自体の速度制限が緩すぎ。人がいる地域では全員原付レベルに規制して欲しいわ。

[by-king]

この記事を見て、でもホームから線路に飛び降りる人間を電車は助けられないよなと、なんとなく思ったんだ

[daybeforeyesterday]

うーむ

[kaorun]

ぉぃぉぃぉぃ…。

[ChieOsanai]

これが「走りながら考える」ってやつか

[misomico]

動画見てハイビーム大事だなと思った

[keren71]

ボルボ製の自律走行車に組み込まれていたボルボの衝突被害軽減ブレーキ（自動ブレーキ）のシステムを無効にしていた//なぜ。。

[chinpokomon_master]

車は元々殺人マシーンなのにお前らは何を言ってるんだ？

[kbvb]

デスノートか何か？