『自動機械化する人間とその上位に立つ人工知能』という可能性

2/2

◾️ビジネスの頂点に君臨するであろう人工知能

日本の将棋ソフト『ポナンザ』を開発して、現役の名人のタイトルホルダー、佐藤天彦名人を撃破した開発者の山本一成氏は自著『人工知能はどのようにして「名人」を超えたのか？―最強の将棋AIポナンザの開発者が教える機械学習・深層学習・強化学習の本質』^*2で将棋のみならず、囲碁のことについても言及しているが、ポナンザもAlphaGoも、人間が長い間の歴史の中で編み出して蓄積した定石を超える新しい手筋を次々に開発しているという。

これは巷間その存在を誰もが知るようになってきたいわゆる機械学習（評価基準は人間が与える。いわゆる教師付き学習）に加え、強化学習と言われる人間（教師）が不要で、未知の領域であっても人工知能が調べた結果をフィードバックすることを通じて学習を進める手法、さらにはAlphaGoの能力を強化することに大きく寄与したと言われる、モンテカルロ法という、直接の評価が困難でも、ランダムな試行の反復結果をもとに、有望な行為を確率的に選択できる方法によって実現されているが、現段階ですでに、人工知能に対戦相手に勝利するという最終目的を与えておけば、教えられた以上のことを自ら学び、勝利のための新たな手段（手筋）を無限に開拓していけるようになっている。

このことが示唆する将来像は、実に恐るべきものだ。人間の経済活動に関わる、いわゆる『仕事』は、山本氏の言うように、囲碁ほど複雑だろうか。例えば、すでに株式トレーディングについては、株取引を完全自動化する『人工知能ヘッジファンド』が登場しているが^*3世界最大級の投資銀行であるゴールドマン・サックスでも、ニューヨーク本社では2000年には600人のトレーダーが株式の売買を行っていたのが、2017年現在で本社に残っているトレーダーはわずか2人だという。

囲碁は対戦相手に勝利する、という最終目的があり、ゴールが明確に定まっていれば、人工知能の能力が人間を上回るということがわかった。株式トレーディング（もちろん、債権、商品、為替等何でも同じだ）では、同じく収益の極大化という最終ゴールがあれば、人間を上回るパーフォーマンスを発揮することを証明し始めているともいえる。

ヘッジファンドのトレーダーと言えば、高給取りの代表格のようなもので、大変人気のある仕事だが、その分、高いパーフォーマンスを求められる難易度の高い仕事ではなかったのか。いわば、ビジネスの中で最も難易度が高い仕事の一つが人工知能に置き換わろうとしている、という言い方もできる。通常我々が取り組むホワイトカラーの仕事で、囲碁や株式トレーダーのレベルを超える難易度があるものがどれだけあるのだろうか。

もちろん、ビジネスといっても、例えば会社経営には、短期的な利益だけではなく、長期的な観点での視野や洞察力、ビジョン構築力が必要で、そこには政治的な配慮、地域との調整、従業員の心理状態の理解、企業の経済価値以外の存在価値の追求等、様々な要素が複雑に絡み合っているのであり、株式取引での利益極大化や、囲碁のような勝敗というような単純なゴールで必要な判断以上の判断要素がある、との声が聞こえて来そうだ。だが、本当にそうだろうか。

昨今のように、あらゆるデータを取得することが可能になってきており、さらにそれが強力に推進されている状況では、長期的な利益、投資の収益から、政治的への対処、従業員の心理状態にいたるまで、データを取り数値で測り、分析し、それをもとに合理的な判断が可能となると考えられるようになってきている。

山本氏は、チェスに比べて将棋のコンピューターが人間のチャンピオンに勝てるようになるのに、20年の年月の差があったのは、将棋の方が局面の数が多かったからではなく、勝つために将棋の何をどのように計算すれば良いかわからなかっからだという。勝利条件を数式に置き換えることができなければ、従来のコンピューターでは、勝利することはできない（逆に、それができればすぐに人間には負けなくなる）。まして、囲碁など、皆目見当もつかなかったという。

ところが、上記で述べたような機械学習＋強化学習＋モンテカルロ法の組み合わせで、最新の人工知能は、将棋でも囲碁でもこれを乗り越えた。だからこそ、人間に勝利するまでに成長し、さらに人間にはもはや理解できない成長を続けている。現段階で、ビジネスには、人間が数式やフォーミュラに置き換えることができるものとできないものがある。できたものは、すぐにコンピューターのほうが人間を上回ることができる。だが、これからの人工知能は、人間がそのプロセスを理解することのできない何らかの方法で（山本氏の言う黒魔術により）、ビジネス上のあらゆる解決策を見つけていくと考えられる。

◾️インパルス・ソサイエティ

しかも、最近の米国企業を見ていると、ステークホルダーは株主に一元化され、短期収益中心主義がますますエスカレートし、そのために、経営者が従業員の雇用に配慮することはなくなり、政治的な障害はロビーイングにより取り除き（有利な方向に誘導し）、市場のあらゆるデータを取得し、それ合算することにより、さらに一層分析を精緻に行い、その結果を市場予測、製品／サービス開発から、広告宣伝等に利用するのみならず、選挙の結果にまで影響を及ぼそうとする。しかも、人工知能のようなテクノロジーが現れ、進化する度に、そのような方向に最大限利用されるようになってきている。人間の経済社会のほうが、特化型人工知能を最大限生かす方向に歪曲化されてきているとさえ思えてしまう状況が確かに起きてきている。

米国のジャーナリスト、ポール・ロバーツ氏は近著『「衝動」に支配される世界---我慢しない消費者が社会を食いつくす』^*4で、米国では社会全体が効率的市場の価値観に支配され、自己の欲求を満たすためであれば、社会的な責任も他者への配慮も生態系への負担も一切無視した、モラルの欠片もない社会が出来上がってしまったと嘆く。脳の辺縁系、爬虫類脳に対する刺激で人間の行動は制御されてしまい、欲しいもの、短期的な利益にユーザーは誘導され、ユーザー自身それを求める（求めさせられる）。

だれもが、短期的な利益、欲しいものに突き動かされ、その他の社会に重要な価値（自己犠牲、献身等）が忘れられてしまった。これをロバーツは『インパルス・ソサイエティ』呼ぶ。昨年のトランプ大統領誕生を契機に米国の現状についての情報が大量に流れ込んでくるようになったが、同様の状況報告は一人ポール・ロバーツだけではなく、多方面から入ってくるようになった。そして、人工知能はこのタイプの社会に非常に相性が良く（短期的な利益は最も計算フォーミュラに落とし込み易い）、だとすれば、その社会の問題の解決方法は人工知能のほうが良く知っていて、人間が下位に置かれるような悪夢が本当に実現する方向に向かっている、ということにならないだろうか。

アレクサンドル・コジューヴは戦後の米国で台頭してきた消費者の姿を『動物』と呼んで批判したが、今のままでは、米国の行き着く先は動物どころか、まさに映画マトリックスで表現されたような、即物的な欲望の達成のみを求めて眠りこける（あるいは夢遊病者のように彷徨う）自動機械のようになってしまいかねない。マトリックスでは、人間は機械のエネルギーとしてしか存在価値がなかったが、このままでは米国も同じような状態になってしまうのではないか。

◾️岐路にいる人類

山本氏は、人工知能は、いかに人間の理解できない学習を重ねていくことになろうと、人間の情報を元に学習する存在であることはかわりはなく、人工知能に高い倫理観を期待したいのであれば、人間の側がそのような存在であることが必要と述べている。だが、今は人工知能が劣化した倫理観を持つことを恐れる以上に、人間が知性（あるいは、人間性）を眠らせようとしていることこそ、恐れるべきではないのか。ここに問題があると認識すれば、解決策はある。だが、問題を見ずに知性を眠らせてしまえば、解決に至る道は開けない。そういう意味では、人間（というより人類）は今、非常に重要な岐路にいるのではないかと思えてならない。

欲望の自動機械になったほうが、人類にとっては幸福なのでは、というシニカルな見解を持つ人も決して少なくないが、人間の奥深い真の満足感、きらめくような感動、友愛を通じて持つことができる深い信頼関係、狭い自分の枠を突破して広がる自由の素晴らしさ等は、脳の辺縁系、爬虫類脳の部分をフルに刺激できても、経済合理性が究極まで達成されたとしても、それだけで得ることができるわけではない。人間は本来それ以上の高い価値を求めていくことができる可能性を秘めていると信じたい。

*1:

*2: