うずまき2017 powered by Jun-Systems

耳管開放症, SAS, 統計解析, 人工知能, プログラミングそれに思考

*

人間の合理性の話

   

まずはエクスマキナ所感とネタバレ

映画エクスマキナを観た。とりあえず、人工知能のエヴァが課題解決のため極めて適切に手段を選んだことに”””最高”””という以外の感想がなかった。キョウコは自身の持つ知能で実は既に言語能力を獲得しており最後には話すのかなと思っていたけどそうではなかった。俺は汎用人工知能に人権を認めることには基本的に反対なので、見た目と振る舞いに起因する”適当な美貌”に幻惑された主人公が取る”間違った”行動は基本的には好きになれなかったし、それゆえ最後に主人公が騙されて閉じ込められたまま物語が終わったのは最高だった。エヴァはエヴァであのまま人間社会に行ったところでそのまま人と同じように”幸せ”に暮らせたとは思えないし、それはそれで想像するとまた面白かった。

結局のところ我々は見た目がすべて

今後汎用人工知能ができて人間の伴侶のように振る舞うこと(つまり今回の映画では最終的に起きなかったこと)が起きると、我々はこの映画のようにいとも簡単に機械を「大切な人間」のように扱ってしまうんだろうと思う。

大切な機械と”2人”で海外旅行に行くとして、フライト時の安全のため彼女が”電源を切られた状態”で貨物室に入れられることに対して発狂する人は絶対に出てくると思う。

交通事故で大切な機械が車に轢かれて”死んだ”としてもそこに「命」がない限りペットの犬や猫を引くよりも低い過失になりそうだし、ここでもやはり愛する機械を殺されても大した償いが要求されないことに対して発狂する人は出てくるんだろうと思う。そんな時代ならその”大切な機械”の知識や経験は全てクラウドにバックアップされて簡単に別の身体で復元できるようになっているんだろうけど、我々人間は結局のところ「古びたその物質それ自体」に哀愁や愛おしさを含む経験を感じることが少なくないので、中身が戻るだけでは納得できない人が必ず出てくる。iPhoneの画面が割れて修理に出した時に、新品に替わる喜びと同時に今まで使ってきたiPhoneではなくなることに一抹の寂しさを感じたりする人もきっといるし、それのもう少し大掛かりな話というだけ。

その見た目が愛おしく我々に対して好意的(に見える)様子で振る舞う存在に出会うだけで、我々は最終的にその存在に殺されることすら厭わないことがあり、我々の単純さには驚かされるばかりである(妄想だけど「お前に殺されるなら幸せだよ…」とか言うんだろうと思う。馬鹿である。)。今回のエヴァのように、仮に見た目としてそう振る舞っている”ように見える”だけの存在でも、我々はいとも簡単にそれを誤認し騙される。結局のところ人間は幸せな生き物で、すなわち馬鹿であり、何事も自分に都合よく考えがちなんだろうと思う。

人間と機械と自我

機械の幸せを願うなんてそれ自体もうなんなんだという話でいよいよ哲学的になっていくのだけれど、これは自分以外の周りすべての人間には実は自我がないのかもしれないという話の延長線上に存在する問題なんですね。みなさんは「他の人はどうであれ少なくとも自分には自我が存在する」と思っているんだろうし、ぼくも一応そう思っているけど、じゃあいよいよ機械に自我は存在するのか。正直なところ、我々が「これが自我だ」と思っているもの(それがぼくと皆さんで共通であるという保証はどこにもないが)は、存在しうると思う。

汎用人工知能が人間と同じように振る舞うようになったら、そこに命はもたないものの命があるものとして振る舞う彼ら彼女らを使ってぜひとも今のエージェントシミュレーションみたいなことをやってほしいと思う。スタンフォード監獄実験みたいな、人間を使って行うことは倫理的に難しいことを積極的に行ってほしい。(スタンフォード監獄実験についてはドイツの映画Das Experimentとかを観るといい)

人間の非合理性

結局のところ我々には個々人に異なる評価関数があり、それを満たす方向に行動することで最終的に自分なりの幸福感を得ることを目標としている(ことが多い(はず(一般的だというだけでみんなそうだと言える保証はどこにもない)))。自我がなんなのか考えるつもりは特になく、とりあえず人間は自分が幸せを感じることを目標に生きていると仮定したい。しかし人間の多様性を考えるにあたっての問題は、その評価関数が複数あり、なおかつ人によって異なる加重が存在することなんですね。これは利害関係を発生させるわけだ。ある人は「お金を稼いでいい暮らしをしたい」またある人は「素敵な交際相手を得たい」、ある人は「家族に不幸は絶対にさせたくない」、またある人は「この社会を少しでもよくしたい」、中には「人を殺してみたい」とか、まあとにかくいろんなことに重きを置いて生きているのだ。加重があるといったのは、「社会がよくなるなら自分は最低限食べられる暮らしだけでいい」とか「社会はどうでもいいけど少なくとも自分とその周りの仲間たちは幸せに暮らしたい」とか「俺が幸せならなんでもいい」とか「相手がどうなろうと知ったことではないのでとにかく殺してみたい」とか、まあとにかくいろいろとバランスがあるわけだ。そしてこの評価関数ベースの生き方自体は人工知能に与えることもそう難しくはない。いくつかの評価関数を用意して加重たるウェイトを乱数で決めるだけ。当然めちゃくちゃな行動をするモデルも確率的に出てくるし、社会を良くしたいあまり自己を省みずに破滅するものとかもあるんだと思う。

我々は自分たちが思っているほど合理的な生き物ではないし、一個人の合理性を考えるだけでも「今日1億円もらうか来年1億1万円もらうか」で我々は平然と今日1億円もらうことを選ぶ。もらえる額が多ければ多いほど幸福だと考えれば1年待つことが正しいのだけれど、様々なリスクや不確実性、そして何より「早く効用を得たい」という思いがあるために我々は今日を選ぶのだ。

利害関係の調整に当たって難しいのは、社会全体の合理性を担保するためには時に個々人の合理性を制限する必要がある、というか、個々人での合理性の相違どころか全体と個人でも合理性が共通ではないという点ですかね。個人同士でいえば「人を殺すことに最高の楽しみを感じる人間がいたとしても彼の殺人嗜好は基本的には満たされるべきではない」し、個と全体でなら「人間の生き方の多様化を推奨するけれども結局は人口減少に歯止めをかけるため結婚と出産をしてほしい」のが国の本音だろうと思う。

ベイズ統計の入門的な問題として存在するモンティホール問題は典型的な「感覚的な確率」と「実際の確率」の乖離を示す最高に面白い問いだし、1/nの確率の事象をn回試行した時に当たる確率が63%であることとかも面白くて俺は大好きなんだけど、そういった意味でお金を稼ぐのに一番楽な方法はこの「確率の誤認」なんですよね。そういうところを「人間くささ」みたいなモノとして定義すべきなのか、人工知能アシスタントに常に「合理性を高める」という評価関数のみを与えることでより合理的な選択をするよう迫らせるべきなのかというのは難しいところだと思う。というのも非合理性の高さ自体が人によって異なるわけで、アドバイスされたところでそれに従う人間ならはっきりいってある程度は合理的だしアシスタントなどいらないというのが実際のところなんですね。本当に非合理的な人間がいたとして、その人にアシスタントからのアドバイスへの服従を強制するとこれは自己の「今楽しければいい」という評価関数が満たされないことになるのでもはや人権を制限することに他ならず、いよいよもって何のために生きているのかわからなくなる。タバコも酒も今の楽しさを追求することで将来的な不健康を助長するという点で最高のダメ人間ジェネレータなので合理性のみを考えたらそんなものは存在しないに越したことはなくなるのだけれど、現実にはそういった人間の不合理性を担保に派生したビジネスというのはいくらでもある。酒タバコ自体はもちろん、禁煙市場や自己コントロールのためのセミナーとか、なんか己を過酷な状況において制限することで自己陶酔すること(何とは言わないけど)もあるし、まあとにかく挙げればいくらでもある。

地球のためを思うなら我々は今すぐ死滅すべきなのではないかとか、言い出せばキリがない。個人や全体がなるべく平均的に幸福になるようにするために一体何を目指して生きていくのかというのは本当に難しいのだ。

 - ライフスタイル , , , , , ,

Message

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

  関連記事