うずまき2017 powered by Jun-Systems

耳管開放症, SAS, 統計解析, 人工知能, プログラミングそれに思考

*

人工知能はこの先必ずミスをする

   

最近音楽の話ばっかりでいつの間に音楽ブログになったんだって感じでしたが、久しぶりにうずまきっぽい内容を書きます。

TESLA MODEL S BLACK

1 最近ディープラーニングすごい

人工知能、というかChainerそしてTensorflowの公開以降ディープラーニングが完全に庶民の手の届くところまで来て大変なブームになってますね。すごい。

モザイク取ったり、線画に色塗ったり、モノクロ写真カラーにしたり。。。

んで、別にこういう人畜無害なプログラムは別にいいんだけど、人工知能自体が今後は自動運転を始めとして、宅配、介護など本当に多様な実社会に進出してくるんですよね。IBM WATSONの(ディープラーニングとは呼ばずにコグニティブ・コンピューティングって言ってるけど)各方面での活用のされっぷりもエグいものがある。あれは先行者利益が大きすぎてやばい。
そういうソフトウェア的な話よりは、もう実際に街中で普通にモノとして動いている社会が見たいですね。実際に自動運転もしっかり普及していけば交通事故はかなり減ると思う。たとえば、TESLAのオートパイロットが事故を予測している動画のコンピレーションがYouTubeにあがっていて、

最後のやつなんてピピピピっていうアラートが出てる時には目視ではまだどこでどの車が何をしていることに対して鳴っているのかも正直よくわからない。それに対して事故予測ができているのは相当にすごい。世界中のドライブレコーダーのデータでも買い取ったんですかね。

これが、走ってる自動車の大半が自動運転になってお互いに通信しながら、なんていう形になったらすごそう。22世紀には自動車の手動運転は遊園地の新しいアトラクションとかになってるんじゃねーか。まあそれもVRでプレイするのかもしれないけど。

2 それでも人が死ぬ

それでも、たとえば自動運転とかで、今後も人が死ぬような事故は定期的に起きると思うんですよね。TESLAのオートパイロットはすでに死亡事故を起こしているんだけど、それを教訓にするとは言っても、いくら改善されても絶対に今後も起きる。

というのも、特に事故発生の直前において、人工知能が任されているのは状況判断です。
単にx = 1。2という情報が来た時に

if x >= 1:
   print 'Larger than 1'

みたいな感じで処理を行うわけではない。モデルの学習時には、どちらかというと子鹿が初めて自分の脚で立ち上がるように、失敗を繰り返しながら、そして失敗するたびにその方法について評価しながら、正しい方向性を模索していく。何よりそもそも入力は目の前の不完全な視覚データで、しかもそれを独自に評価して行動を行うわけです。どんなにカメラの精度がよくなってもデータは正面からしか取れないし、その情報にも光の加減とか色々なノイズが乗るわけです。

そりゃあもちろん人間の認知資源に比べたら圧倒的に豊富なのは間違いなくて、先の事故予測でもそうだけど、事故の発生前からアラートを鳴らせるのは、かなり遠くの物体まで認識した上でそれぞれの移動の時間とスピードをリアルタイムに見てぶつかる確率を算出してるんじゃないかなーと思うんです。「このまま同じペースで物体それぞれの動きが続いた時にぶつかる確率が90%を超えたら警告を出す」みたいなイメージで。

そんな風にものの認識をしているとしても、それでも、機械による「勘違い」は起きるはずです。人間は根本的に不確実性を伴っているので、行動の百発百中(というか$10^10$発$10^10$中とか)での完全な予測っていうのはまあ無理なわけです。ここから長い将来無限期にわたって世界中の全てのオートパイロットの事例において事故発生直前にその全てを「1 正しく予測」して「2 適切に対応」できるとは到底思えないんですね。

最近久々に読み返した『偶然の統計学』にもあるけど、どんなに”起きにくい”ことでも試行回数が莫大に増加すると、人が思ってるよりは頻繁に起きるんですよ。マジでありえないこと(突然あした自宅の俺を亡くなったはずのジョブズが訪ねてきて、開発中の新しい最上級Mac Pro(100万円相当)を俺にタダでプレゼントした上でその場で成仏する、とか)なわけではないので、まあ普通に起きるんですよ。普通にセンサーや視界データを見誤って事故が起きることはもちろんあるだろうし、そうじゃなくても自動運転が当たり前になってかなり高い精度で飛び出しを認識できるようになったら、例えばYouTuberが道路に飛び出して車を急停止させるお遊び動画を撮ることとかも普通にあるだろうし、遊びで投げた極めて精巧なマネキンをAIが守ろうとするあまり車が状況判断で壁に突っ込んで運転者が半身不随になったりするのかもね。Facebookにあがってるアメリカのエグいバズ動画とか見てると、起きない話じゃないなーと思ってしまう。

そういった意味で、絶対に人が死ぬ。それも確率的に。場合によっては誰も悪くないかもしれない。
自分は心臓病とかで死にかけたり人が事故で死んだり友達が刺されたりその他いろいろあったので、「まあ自分が原因じゃなくても、不幸なことっていうのは確率的に起きるもんなんだなー」ぐらいに最近は思えるようになったんですけど、社会というのは「ま〜確率的に選ばれちゃったんだから仕方ないよね〜」とは許容できないわけじゃないですか。使って大丈夫なんですか??その辺りの法的な責任問題がどう処理されていくのかは今後のお楽しみですね。

あとなんか殺人AIみたいなやつ

人工知能技術の発達で思わぬ形で人が殺されるみたいな話がよく出てくるけど、殺人は人工知能の”””意思”””で起きるよりIoTの悪用で人為的に起きる確率の方が高いんじゃねーのと思ってしまう。遠隔操作で渋谷の交差点に停車中のタクシーがハイジャックされて、人々が横断中の交差点に次々車が突っ込むとか。
人工知能自体が目的を持って人を殺すとすれば、そもそも人為的に、悪意を持って設計された人工知能っていうものはまあ出てくるんだろうなとは思います。

まあ、いずれにしてもぼくは楽しみです。自分では運転したくないので、名古屋で夜自分の車の後部座席に横になってて、目覚めたら東京の駐車場にいるみたいな未来が来てくれ。まあ気づいたら事故で死んでるかもしれないけどね。

「車の運転が完全に自動化されたら人々はプライベート空間である車内でカーセックスに興じる」っていう史上最高にアホな記事(それでいて非常に起きそう)があったはずなんですけど見失ったのでとりあえず貼らないことにします。


ディープラーニングを使ったわたくしの大したことない応用論文がもうすぐ人工知能学会で読めるようになります。


 - 人工知能 , , , , , , , ,

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

  関連記事

no image
人工知能との協働としての遠隔医療
AIによる社会の効率化は悪か
人工知能は本当に言葉を理解していないのか
自動運転で自動車メーカーは”ただ入れ物を作るだけの会社”になるのか
肉体労働よりも頭脳労働の方が簡単な世界