« Balmuda the curryを食べる | Main | 洗濯機の修理の話 »

February 16, 2018

AIの判断と人間の判断の話

大昔にサーバー管理をしていた錆びついた知識をリフレッシュするために、最近のセキュリティ事情をおさらいしている。
今のセキュリティ最前線で使われている技術は、基本的にはこれまでと変わらないものの、多くの手法が自動化されている。これまでなら人間が試行錯誤しなければ出来なかったことでさえ、AIを使った機械学習によって自動化されていることに驚いた。例えば、少し前に仮想通貨交換業者のコインチェックがハッキングを受けて、P2P暗号通貨XEMが流出した事件では、その攻防は互いに自動化されたAIによって行われ、人間は直接細かい作業をせずに監督作業だけをしていたという。
 これはインターネットの世界だけに限らない。インフラの制御でもあまりに巨大化複雑化したために、人間が個別に対応してはダメという段階に入っていて、その制御は自己学習するDeepLearning系AIによって自動化が進んでいる。更に軍事分野でさえ、今では多くの部分が電子化・ネットワーク化しているが、最初に書いたようなAIを使ったサイバーセキュリティの流れも、いずれ軍にも降りて来るのだろう。既にロシアの最新鋭戦闘機Su-57では、パイロットの負荷を下げるために行動指針を提示する、人工知能システムが搭載されてるといわれている。
 問題なのはその先だろう。有名な論理学のテーマに、トロッコ問題というものがある。これは「ある人を助けるために、他の人を犠牲にすることは許されるか?」という思考実験だ。例えば、線路を走っていたトロッコの制御が不能になった時に、ポイントを切り替えれば、その先にいる5人の代わりに一人が犠牲になるが、どうするのが正しいのかというものだ。一見すると、より少ない犠牲の方を選べばいいという見方も出来るが、それなら誰がそれを判断して実行するのかという問題もはらんでいる。これまでは運転手など責任を負った人間がその責を負っていたわけだが、AIによって多くの機械が自動化されるにつれて、こうした論理的な問題も出てくるのだ。
 現在、軍隊など人命に関わる判断については、AIはあくまで提案をするだけで最終的な判断は人間が行うという方針が貫かれている。しかし、より高速化する戦場で、コンマ数秒の時間でこうした判断を行うのは人間であっても難しい。映画「ロボコップ」の中では、実は主人公マーフィーは電子頭脳の補助を受けて常人の何倍もの速さで動くことができるが、実は人間の頭脳が追いつかないので、緊急時にはAIが先行して判断・動作を行い、後からマーフィーの脳に結果を送る仕組みになっていた。その結果、当人は自分がやったと思っていた動作が、実はコンピュータによって行われていたと言う裏設定があって戦慄したことがある。
しかし、こんな極端な例でなくても、例えば先程のSu-57に搭載された行動指針を提示する人工知能であっても、A、B、Cと提示された中から人間が判断してどれかを選んだとしても、元のA、B、Cは機械が考えた結果に過ぎないといえないだろうか。

もしかしたら、提示されていないDが真の正しい回答かもしれないのだ。こうした問題を秘めながら、今では多くのものがAIによって制御されつつある。

|

« Balmuda the curryを食べる | Main | 洗濯機の修理の話 »

Comments

Post a comment



(Not displayed with comment.)


Comments are moderated, and will not appear on this weblog until the author has approved them.



TrackBack

TrackBack URL for this entry:
http://app.cocolog-nifty.com/t/trackback/76620/66428076

Listed below are links to weblogs that reference AIの判断と人間の判断の話:

« Balmuda the curryを食べる | Main | 洗濯機の修理の話 »