今年は、3月に世界トップレベルの棋士として有名なイ・セドル九段が、ディープマインド社が開発した人工知能「アルファ碁（AlphaGo）」に敗戦を付すという歴史的なことから始まるなど、ディープラーニング・深層学習やニューラルネットワークが急速な進歩を続けています。
そんな最先端のIT分野でさまざまな実績を他社に先駆けて排出している方のひとり、株式会社UEI代表取締役社長兼CEOで人工知能開発の第一人者・清水亮氏が11月に「よくわかる人工知能 最先端の人だけが知っているディープラーニングのひみつ」（KADOKAWA）という本を出版されました。そこでこれを機会にアナウンサー・吉田尚記が人工知能の真髄に迫るインタビューを敢行！！
yoshida_shimizu_2
今回はその2回目。1回目を読んでない方は、まずそちらをどうぞ。人工知能に興味のある方必読！！
清水亮プロフィール
株式会社UEI代表取締役社長兼CEO。株式会社ドワンゴ会長室第三課長を兼務。深層学習を中心とした人工知能の研究開発を専門とし、自らプログラミングも行う。2005年、情報処理推進機構より天才プログラマー/スーパークリエイターとして認定される。
■思い通りに動かないAIを手なづけられるエンジニアとは・・・
吉田：AIプログラミングってまだ一般的に始まってないですよね？
清水：ジャンルとしてはね、でもみんな勝手なイメージでAIはとっても難しいものだと思っていると・・・。
吉田：むしろ簡単！？
清水：むしろすごく簡単なんですよ。
吉田：例えばキーボードも一切使わないでプログラミングできちゃうとかもプログラミング講座としてはあり得る！？
清水：あり得ますね！！ でもキーボードは使ったほうが早い笑。それでも、単純な物事の組み合わせだけで相当いろんなことが出来ます。そういうことが人工知能の世界で起き始めているんです。
吉田：それって、人間に置き換えると、もう社長とかマネージャーのやっていることですよね。
清水：ああ、そうですそうですよ。
吉田：それができるようにみんななりなさいよってことなわけだ！！
清水：なりつつあるんです。
吉田：マネジメント能力の高い人はすごく樹液をいっぱい吸って笑・・・
清水：無能な人もいっぱいいるけど笑・・・
吉田：それは言わないお約束笑・・・
清水：マネージャーとしての才能って、実はマネジメントによってしか磨けないんだけど、今までってそれが出来ないから、だから僕のマネジャーが育たなかったんです笑・・・。
吉田：そっか・・・だから思ってたんですが、会社の経営って、やったことないですけど笑、あっ！一応やってることになってんのか笑（株式会社トーンコネクトの代表取締役CMO）、あれって車の運転みたいなものだと思ったんですよ。自分の車の例えばトラブルが起きてないかを常にチェックし、このまま真っすぐ走っていくと、ここは崖があるからハンドルを切ろうとか、そんなことをおそらく考えていくのが経営者。
でも今だと、車だからエンジンを一所懸命燃やす係の人もいれば、新しい車輪の設計をする係の人もいれば、そこで上げた才能と、車をドライブする才能＝運転する才能ってそもそも別だろうよ！
清水：そうです、ぜんぜん違う！！
吉田：でも今だと、車の中で偉くなった人がそのままドライバーの位置に座ったりするんですよ。
清水：昨日までエンジンやってたやつが、突然ハンドルとかになっても、できるわけないわけですよ。急に運転しろって言われたって、ちょっと待って！僕はピストンをぐるぐる回すことしかやってこなかったんですけど・・・みたいなことになる。
ところが世間っておかしくて、そうなったときに、それをやるのがカッコいいんだ！とか、それやるのは当然だみたいな空気もやっぱあって・・・お父さんが部長になったら嬉しいわけだから。でも管理職になるともうエンジニアとして伸びるわけじゃないから、全然やったことない仕事に突然放り込まれて、いやいやオレはそういうことじゃなくてアイデア勝負だったんだけど、管理職になったらアイデア生かせないじゃないとかは容易に起きますよね。
吉田：例えばF1チームだったら、メカニックからドライバーになるというよりは、普通に考えたら、F3やF3000とかで走って来た人から才能のある人がF1ドライバーになるわけで・・・それが正しい。
清水：それが一番効率が良いでしょう！！
吉田：しかもそのピストンとかで頑張ってた人は、もううちの会社のピストンはもういいから、まだヤバそうな会社のピストンを改善しに行ってくださいみたいなことのほうが良いわけです。
清水：スペシャリストになるってこと！！
吉田：そういうことのほうが人の流れとしては自然なわけですよね。でもなんか聞いていると、プログラマの人って会社を潰さないっていうんですってね。
清水：僕の持論はそうですね。潰す人もいるんだけど、めったに潰す人はいない。そう簡単には潰れない・・・。
吉田：それって、結局プログラマの才能ってマネジメントだったんじゃないですか？ 全体でこういうプロジェクトをやろうと考え、そのプロジェクトをこういうものにする、ばらばらにして、この時間までに組み上げる、出来ているものは無駄にはしない。ここはないからどうしても作らなければならないから時間までに作ろう・・・。これって（プロジェクト）マネジメントですよね？！
清水：そうです、プログラマはタイムマネジメントできないとプロのプログラマにはなれませんので・・・。ただプログラマも非常に幅広くなってきましたから、よっぴーが言ったように、誰でも出来るような仕事が多くなってきたので笑、プログラマですよってのが必ずしも会社を潰すか潰さないかに直結しなくなっていている・・・。
吉田：それにしても、AI時代になると、よりそういう人が有利になるわけですよね。
清水：プログラマが有利かって言ったらそうでもないんです。だから僕は（単なる）プログラム教育じゃなくて、AIを前提としたプログラム教育じゃなければだめだと思っているんです。（興味ある方は、秋葉原プログラミング教室・AIプログラミングコースをご参照ください）
吉田：つまりは、さっきの話で言えばエンジニア＝車の修理のことばかりしか知らない人間が人工知能を組み出してもあんまりうまく作用しないってこと・・・？
清水：そうです、プログラマってマネージャでありながらマネージャではないので、プログラマが扱っているものは、物事の本質のごく一部なんで、予定通りに動くものしか扱わないんです。でも人工知能は予定通りに動かないから人工知能なのであって、ランダム性が強いわけです。
吉田：人工知能のそこですよ、いまのことが世の中の人が凄い誤解していることだと思います。人工知能は命令したとおりに動くと思っている。
清水：ある程度は命令通りに動きます（でも命令したらそのとおりに動くのは単なるロボットだけ）。ただなんでそのように動くのかは僕らにもわからないんです。僕らにもわからないからすごいんですよ笑。
■人間に出来ないことはAIもできないんです・・・
吉田：それは、もう人知を越えて、人類すべての意味での「僕ら」ですか？
清水：そうです。例えば「アルファ碁」はまあ強いですねと。アルファ碁作った人も相当囲碁が強いんですが、ただそれ以上になぜアルファ碁が強くなれたのかはよくわからないんです。現象としてしか理解できていない。そういうことって昔ながらのエンジニアは凄く嫌うんです。だからいま、世界のどこ探してもAIが得意なエンジニアって、研究者を除くといないんです。
吉田：いまこの話を聞いていて、そこの整理が清水さんの中では両方あるんだなと思いました。ひとつは「最悪自分で作ればイイ」って言ってたこと。その「最悪」っていまの真っ当なプログラマがみんな持っているマインドなんですが、この先何で動いているのかわからないって気持ち悪いけど、大丈夫だよって言えるプログラマは少ないってことかな・・・。
清水：そうです、あっけらかんとしていられるプログラマ！！ 性格の問題になっちゃうかもしれないけど笑・・・。
吉田：それこそ僕、機動警察パトレイバーの1が大好きなんですが、榊班長という整備の神様が登場。レイバー犯罪が起きてこのままだと大惨事になるとなぜか見抜いてしまう！！ 機械というやつは設計するやつ、整備するやつ、使うやつの誰かが悪いことしないと、機械からは勝手に悪さはしないんだよ！！って言葉！！
清水：すごくエンジニアっぽい考え方ですよね。
吉田：これが今の話だと崩れる恐れがあると・・・。
清水：そういうことです。
吉田：わかりやすい話だと、人間を殺すAIができちゃうんじゃないかとか言い出すとか・・・。
清水：でも、そんなの人間にもできないから・・・。
吉田：というと？
清水：人間に出来ないことはAIもできないんですよ。要するに例えば、AIがSF映画みたいに暴走して色々ハッキングとかして、悪いことをしようとするなら、そもそもが人間が誰かやっててもおかしくないわけですよ。大規模なサイバーテロみたいなの・・・。やりたい国はいっぱいある、やれる能力のある人間もいっぱいいる。でも一回も起きたことはない。できないんですよそんなややこしいことは・・・。
吉田：それは工数が多すぎるから？
清水：それより、面倒臭すぎるからじゃないかな・・・。それなりにお互い防御態勢を作っているわけだから、理屈で防御されているものを理屈で突き崩すっていうのは相当難しいんですよ。AIが苦手なのはそこなんです。
吉田：ん！？
清水：AIって理屈がとにかく苦手なんです。いままでのコンピュータにない部分としてのAI＝機械学習においてなんですが・・・。機械学習は「理屈」を学習するのが一番難しいんです。
吉田：機械学習は、なんとなくはわかるんですが笑・・・。大人の人工知能とか子供の人工知能とか・・・。
清水：子供の人工知能っていうのは、理屈が苦手なんです、感覚だけでやってるから。そんなやつがパスワードハッキングなんかするわけがないわけです。まず確率論的にもそういうことができないように作ってあるわけです。
吉田：今の話を聞いて、凄くいろんなことを想定できる気がしてきました。少なくとも地球上に存在して、技術体系はみんなで共有しているじゃないですか。今一番進歩しているAI持っている人って、ひとりで独占しているわけでもない、でもこのAIをものすごく進歩させたどっかの知的文明が宇宙から来て、人類を虐殺しようとしたら、そのAIで簡単に虐殺できるんですかね？
清水：いや、出来ないと思います。まずAIには体がない笑。例えば普通のセキュリティで言ったら、一番効率的なセキュリティ突破の方法は、人間なんです。つまりスパイ大作戦みたいに、人間が直接その秘密基地に飛び込んで人を脅迫するなり何なりするほうが、AIがネットを操作して突破するよりはるかに効率がいいわけです。そもそもそんな重要な場所は遮断されているはず・・・例えば核兵器を管理しているコンピュータがインターネットにつながっているわけがない笑。
そもそも映画やSFの設定に無理があるんですよ笑。よほどの悪意がない限り、そんなセキュリティを攻撃できるようなAIは作りようがないわけです。あったとしてもやっぱり、人間が直接やらない限り最後は無理で、あるとしても、相当高度な人間とAIのハイブリッドまでいかないと、人間に危害を加えられるAIはなかなか作れないし、逆に、人間自身もなんで俺がAIのために人類が滅ぶようなことをしなければならないのか普通思いますよ。なのでそういうことはとても起きづらいと思うんです。
吉田：それより、冷静に考えると、東京中の水道が止まったりするとかのほうがよっぽどあり得るってことなんですね。
清水：せいぜい起こせて、パスワードが流出！！とか、ツイッターが停止！！とか、そんなレベル。これなら人間でも出来るから・・・。でも原発を暴走させるとか、戦艦のシステムを乗っ取るとか、それは実際はAIには出来なんですよ。
吉田：人間はコピーが利かないから自爆テロができないんですよ。ある人が言ってたのは、自殺しようと思ってる人に、してもいいけどその前にこの世でお前が一番大切なものを壊してからにしろって言うんですって。それは多くの人は出来ないんだそうです。
清水：なるほど・・・。
吉田：つまりこの世で一番大切なものが命より大事なものなのかどうかってことになる・・・。人間は命を賭けるという前提になれば、何でも出来てしまう・・・物理的に100メートル飛ぶことはできなくても、例えば、殺されてもいいから一番憎いやつを闇討ちしてやるというのは結構な確率で出来てしまうんだそうです。
僕が何かに恨みを持った状態で、自分の人格をまるごと人工知能にコピーして、そもそもそんなことが出来るのかは置いておいて、それが10体いるとして、憎いやつを10回暗殺することはできるんじゃないですか？
清水：なるほど、そういう憎悪というのをAIが持つかどうか・・・。実際はそんなに一色飛びに賢くはできないんですよ。我々が生きている間に起きそうな変化というのは、例えばドラえもんだとギャグ漫画なので、憎悪とか恋愛感情っぽいもの見せることありますけど、あれに何かそんな真剣な気持ちは感じないですよね。
吉田：ど、ど、どういうこと笑？
清水：ドラえもんは猫を可愛がっているじゃないですか。猫とデートしたりしますよね。ただそこに本当にドラえもんに性欲があるかといったら根本的に生殖が無理なので、そのシーンに本当の意味はないわけです。ドラえもんという本当は生殖できない量産機械がある種の幻想として恋愛を楽しもうとするという行為であっても、根源的にオレはメス猫捕まえて子供を作らないと子孫繁栄できない、生きてきた意味はないとは思わないわけですよ笑。
いまのところAIにはそういった感情は植え付けられないというわけなんです。そういう意味で極めて安全ですよ今のAIは・・・。
吉田：僕はもともとAIについて懐疑的ではないので、安全なのはわかるんですが、一般的には自分が倫理的に出来ないことをやらせようとする人多いんじゃないかなと思ったもんで・・・。
清水：そういう意味では、放射能が出たら何でもダメだと思っている人が世の中にはたくさんいるのと同じで、そういうことを考えている人の疑惑を払拭するのは無理かもしれないですね。
■適切な安全装置を持って人工知能の判断をどうやって国政に反映させるか・・・
清水：一方でロボット兵器と言う考え方があります。それには人間は絶対勝てません。ロボットが率いる軍隊にも人間は絶対勝てない。あとは、人間が介在しないとその先すすめないような仕組みを作っておかないと、ロボット兵器は非常に危険なんです。これはAIではないんです。
吉田：というと・・・
清水：ロボット兵器によるロボット軍団が出来たとして、このロボット軍団の大将が何かの間違いで戦争開始と号令を、よくある昔のSFのようにかけたら、戦争が始まることは否定できない・・・。ただこの場合はロボット対ロボットの戦争で、人間には関係ないところで戦うだけかもしれない・・・。
吉田：でもこれ作っても無益だよねとみんなが気づいたら最終的にどの戦争もじゃんけんで済ませようとなるんじゃないかな・・・。
清水：そうです、シミュレーションだけでいいんです。実際、いまの世界の均衡ってみんな核によって保たれていると思っているんだけど、それは幻想じゃないかと思っているんです。僕は今の世界の均衡は「ゲームシミュレーション」によって保たれていると思うんです。
軍拡とかするじゃないですか。その時確実にシミュレーションをどの国の軍隊もすると思うんです。その結果、今絶対勝てるとわかったら、あとはもう外交的な問題で、スイッチ入ったら攻撃が始まるわけです。でも、核も含めてですが、いろんな兵器があって、それらが睨み合った結果、こっちも戦えるけど、被害の大きさに比べて侵攻はコスト合わないよねというようなシミュレーションは必ず行うはずなんですよ。
そのときまともな人だったら、戦争するのは馬鹿げてるからやめようと思う、経済的に割に合わないから・・・。そういうシミュレーション戦争というのは、すでに90年代入ってからずっとやっていると思うんです。今日本がこういう兵器を作りました、アメリカもこういう兵器作りました、それで戦ったらどうなるんだろう・・・負けるよねみたいな・・・じゃあやめよう。ここで核兵器作るやつが何で非難されるかというと、シミュレーションの結果に大きく影響を及ぼすから、効率が悪いからやめなさいというだけの話。これが核兵器を作る者へのアレルギーなんです。
吉田：それこそ人工知能が持っててくれたほうがまだ経済計算が合わないというか・・・
清水：そう人工知能が全世界の国家に入って、人工知能によるシミュレーションで勝つ負けるがきまるのであれば、永久に結果が出ず、そこで均衡が保たれると思うんです。
吉田：そういう意味で、僕らは政府があるのでうまくいっていると思っていますが、そもそもうまく行っているのかということなんです。僕らが子供の頃って日本は貿易黒字が積み上がり、円高でこのままでは大変だみたいなことを言われていたのが、いつの間にか日本の借金が何兆円みたいな話になって、話違うじゃん！いつのまか180度切り替わっていたりしたわけです。それって僕らが仕組みを預けていた政府がポンコツだったとわかる！！ それが人工知能であったらどうなのか・・・。もっと信頼のおける政府ができるんじゃないかと思ったんです。
清水：だから適切な安全装置を持って人工知能の判断をどうやって国政に反映させるかという議論は、これからやっぱり世界各国で行われるようになると思います。
吉田：僕が思うのは、人工知能の判断に従いますって候補者がもうそろそろ出てくるんじゃないのかと・・・。
清水：実際「インターネッ党」とかありますからね笑。
吉田：人工知能を作って政治的な判断をします、僕らは人工知能の判断に従います・・・という人達が政権を取る時代は、ギリギリ僕らが生きてる間にあり得そうですよね。
清水：むしろなんか、5年以内に人工知能を採り入れる党はあると思いますよ。ただまだ泥臭すぎてAIにマッチングさせるのがどうも、選挙戦略まで考えるとめんどくさそうですが・・・。政策決定にAIを使うという可能性は非常に高いと思います。
吉田：AIを政策決定とかに使い始めた国家って、他の国家よりパフォーマンスが上がると思いますね。
清水：そうです。AI使わない国家は滅ぶ・・・・。
吉田：AIには、そういった信頼性を保つのと、さきほどの「使いこなせる人」と「使いこなせない人」との差が大きく開くかどうかについて、我々は、心がけていれば行けるのか・・・（続く）
さてこの続きはどんな話の展開になるんでしょう・・・次回もお楽しみに！！
「よくわかる人工知能 ～ 最先端の人だけが知っているディープラーニングのひみつ」
2016/10/17発刊 KADOKAWA ASCII （1,836円）
はじめての深層学習(ディープラーニング)プログラミング
2016/12/7発刊 技術評論社（2,462円）
株式会社UEI
http://www.uei.co.jp/
秋葉原プログラミング教室・AIプログラミングコース
