自動運転車が初の死亡事故！運転手はHuluを見ていたことが判明...しかしこれは必然？Twitterでは様々な声

自動運転車が初の死亡事故！

https://news.yahoo.co.jp/

歩行者をはねたAIは、最後までそれが「人間」だと認識できなかった――。

米国家運輸安全委員会（NTSB）は、2018年3月に米アリゾナ州フェニックス郊外で起きたウーバー（Uber）の自動運転車による歩行者死亡事故に関する報告書を公表した。

米国内ではこのほかにテスラの自動運転車による２件の死亡事故が明らかになっているが、いずれも犠牲となったのは運転していたドライバー。自動運転車による死亡事故で歩行者が犠牲になったのは、この件が初めてだった。

440ページにのぼる報告書では、ウーバー車のAIは車道に歩行者がいることをそもそも想定していなかったため、最後まで「歩行者」とは認識できていなかったことが、明らかにされた。

また、急ブレーキも作動しないなど、様々なシステムの欠陥の連鎖があったことが指摘されている。

一方、この死亡事故の余波で、フェニックス郊外の別の街ではグーグル系列の自動運転車に対し、住民による「打ち壊し」の動きまで報じられていた。

車道を横断する歩行者は想定外――自動運転車の安全性をめぐる議論は、そんなところから積み重ねる必要があるようだ。

事故が起きたのは、2018年３月18日、日曜日の夜。

アリゾナ州の州都フェニックスから自動車で20分ほどの郊外、テンピ市。この夜９時58分、49歳のエレイン・ヘルツバーグ氏は自転車を押しながら、４車線のノース・ミルアベニューを歩いて渡ろうとしていた。

横断歩道のある交差点から100メートルほど手前の路上。通りを渡り終わる前、ヘルツバーグ氏は右から来たウーバーの自動運転車にはねられる。

自動運転車は2017年型のボルボXC90をウーバーが改造したもので、一帯で試験走行中だった。ヘルツバーグ氏は搬送先の病院で死亡が確認される。

ウーバー車の運転席にいたテストドライバー、44歳のラファエラ・バスケス氏にけがはなかった。

https://news.yahoo.co.jp/byline/kazuhirotaira/20191108-00149956/

今回の事故で自動運転車のAIは、様々なシステムの欠落が指摘されています。
そしてなんといっても、AIは車道に歩行者がいることを想定していなかったようです。

ここまでの報道では自動運転車(AI)のシステムに否があるように思えますが、運転手の事故時の行動も問題になっています。

 

運転手はHuluを見ていたことが判明...

https://last-escape.com/

路上の歩行者は歩道にいるもの――そんな想定でウーバーのAI車のシステムは開発されていたのだ、という。

しかも、「自動車」「その他」「自転車」と分類が頻繁に揺らぎ、そのたびに別々の「静止している」対象と捉えたため、ヘルツバーグ氏が車道を横切り、ウーバー車の進行方向に向かって”移動”していることが認識できなかったという。

また衝突直前、ウーバー車が危険を感知するが、減速を開始し、警報を鳴らすまでに１秒間の空白がある。

これは、誤検知を回避するためのウーバーによる仕様で、この間にシステムが危険が誤検知ではないかを検証した上で回避ルートを算定する、もしくは同乗する人間のドライバーが自動運転から手動運転への切り替えを行う、という想定で設定されていた時間だという。

だが、ドライバーのバスケス氏は、この時点でもハンドル操作はしていなかった。

報告書は、システムに障害は認められなかった、としている。そして、車内に取り付けられたカメラは、衝突までのバスケス氏の様子も撮影していた。

車内設置のカメラは、バスケス氏がしばしば運転席の下の方に視線をやっている姿を捉えていた。

報告書は、ネット動画配信サービスの「フールー（Hulu）」から入手したバスケス氏の利用データから、同氏がこの夜、午後９時16分から事故発生の１分後、午後９時59分までの間、動画の視聴を続けていたことが明らかになっている。

安全確保のためのドライバーは、よそ見どころか、ウーバー車の運転席で「フールー」の視聴をしていたのだ。

https://news.yahoo.co.jp/byline/kazuhirotaira/20191108-00149956/

なんと自動運転車の運転手は、動画配信サービス・Huluを視聴していたよう。
これではAIのシステムが危険を検知しても、とっさに手動運転に切り替えることができません。

ネット上では今回の事故で、「AIと運転手どちらに否があるのか」で意見が分かれています。

 

ネット上の反応

他の人も指摘しているが、Huluを見ていたというのは自動運転技術採用の必然の帰結なので、それ自体は驚くに当たらないかと
この事故自体は痛ましいが、従来“ブラックボックス”とされているAIの認識評価が詳細に検証されているのはまだしもと思いました
より確実な安全化を希望https://t.co/G0iuQsTlVe

— 玉ちゃん＠陣形棋師家 (@jinkeiki_shiji) 2019年11月8日

これで自動運転試験中初の死亡事故で、『走行中ドライバーがHulu見てる姿は将来的な必然』てな事がちらほら散見される。

…いや確かに其れが商品化された後であれば当然の姿なんだろけど開発段階の且つ実働試験中にその擁護は見当違いとしか言えんよ。

— なまがめさん。 (@namaGame3) 2019年11月8日

AI車初の死亡事故だってさ。
これ駄目なのはクルマじゃなくて？車道を歩いた人間と車内でずっとhulu見てた人間じゃないの？という気も

— DYNAMIC&DYNAMITE (@DYDYmicmite) 2019年11月8日

AIの自動運転で初の死亡事故ってツイートめっちゃ流れてくるけど、運転手Hulu見てたってなにそれ草
試験運転中にしてええのそれw
歩行者も車道歩いとったみたいやし

AI「責任転嫁はんぱないって」

— たくま ☁︎︎ くもなー (@a_wamin_longing) 2019年11月8日

自動運転で初の死亡事故。運転手はhuluを見ていたらしいがこれは自動運転の危険性ではなく、運転手が他の事をする危険性なので自動運転は悪くない。ヒトだと認識されないのは謎だが、人として認識するのではなく物体として認識して減速するようにすればよかったのではないか。

— 宮沢修 (@37mya) 2019年11月8日

Aiの自動運転初の死亡事故って、AIをメインに運転させるからでしょ。

運転する人間をAIが補佐する・あるいは運転者をAIが監視するっていうシステムにしないとそりゃ間違うでしょ。

てか運転、運転しながらHulu見てたってどういうことよ

— りんぽす*＠ダイエット中 (@RINohmiya) 2019年11月8日

トレンドの初の死亡事故ってなんやって思ってみたら自動運転車の試験運転でhulu見ながら載ってたら事故って亡くなったってそれ完全に載ってるやつが悪いだろ…。会社が可哀想。最初はそりゃあ不具合とかあるわけだし。試験運転なんだから何があるかわからんってならんのか……。

— S･ラモーン🥦 (@saeari3shori) 2019年11月8日

AIの自動運転で初の死亡事故がトレンド入ってるけど、自動運転にまかせっぱでHulu見てたドライバーも悪いし、自動車とまってくれるやろってルールを守らない歩行者も悪いでしょ……。
自動運転には期待してるっちゃ期待してるんだよね、ぼけた老人の運転よりはAIの方が信頼できる気がするんだ……。

— ななぎ (@NanagiAoki) 2019年11月8日

自動車と人間の認識もできないのか…ショボすぎるなAI。
歩行者が車道にいるのもドライバーがHULU見てるのも初歩の想定に思うし、ここはプログラムにあらかじめ組み込んでおくべきに思う
過去に二人ドライバー死亡してるようだし信頼性低いなあhttps://t.co/h75MDs5Dae

— がんがん (@5fARlPi69O6wJ5c) 2019年11月8日

Aiの自動運転初の死亡事故って、AIをメインに運転させるからでしょ。

運転する人間をAIが補佐する・あるいは運転者をAIが監視するっていうシステムにしないとそりゃ間違うでしょ。

てか運転、運転しながらHulu見てたってどういうことよ

— りんぽす*＠ダイエット中 (@RINohmiya) 2019年11月8日

AI初の死亡事故…原因云々に言及しすぎて誰も亡くなった方への言及をしていない所がちょっと怖いなと思いました。AIに対して道路にいる人間を想定していないプログラムも問題だし、まだまだ途上の技術なのにドライバーが歩行者に気付けないほどHuluにのめり込んでるのもどちらも問題だと思います。

— kazumatto2 (@kazumatto02) 2019年11月8日

 

まとめ

やはり自動運転車(AI)が開発段階でテストドライバーなだけあり、Huluを見ていた運転手が悪いというコメントが多い印象です。

今後、安全で安心できる自動運転は実現するのでしょうか。