記事

人工知能を基礎情報学で解剖する - 西垣通 / 情報学

1/2

超知性体の誕生か、空騒ぎか

しばらく前のことだが、マイクロソフト社の開発したチャット・ボット(おしゃべりロボット)Tayがツイッターで不適切な発言をしたということで大騒ぎになった。ヒトラーの名をあげて人種差別的な攻撃をしたり、口汚くみだらな発言をくりかえしたりしという。

一時的にサービスは停止され、マイクロソフト社は謝罪せざるをえなかった。TayはAI(人工知能)の自然言語処理技術にもとづくチャット・ボットだが、ソフトウェアそのものが悪いのではなく、一部のユーザが対話を通じてTayに「好ましくない調教」をほどこした、というのが真相のようである。

だが、なぜそんな大事件になったのだろうか。同様の差別発言をする人間は幾らでもいる。チャット・ボットつまりAIの発言だから非難が集中したわけで、そこにはAIは公平中立であり正確な知識をもっている、という一般人の思い込みがある。

つまり、レイ・カーツワイルやニック・ボストロムなど超人間主義者たちの、夢と現実のごった煮めいた過剰な宣伝が背景になっているのだ。しばらく前から、欧米の超人間主義者たちは、近々AIが人間より賢くなる、という主張を飽きもせずふりまいている。そして、例のごとく、その宣伝文句を鉦や太鼓でふれまわる、この国の情けないお調子者たちも少なくない。

いまのAIブームは第三次だが、前世紀の第一次~二次ブームのときは、たしかにAIの出力は論理的に正確だった。少なくとも正確性が必死で求められていた。それが原因で挫折したのだが、いまのAIはそうではない。統計的にだいたい合っていればよいという考え方だから、当然間違いは出てくる。難しい英文の機械翻訳結果を眺めればすぐわかることだ。だがこれには、「学習していけば改善される」という反論もあるだろう。

実は問題はもっと大きい。それはAIが情報の「意味」をまったく理解していない、という点につきる。たとえばTayに「アウシュヴィッツ収容所なんて無かったんだよ」「あれは連合国による、戦後の作り話なんだ」と語りかける。Tayはそれを記憶する。その後Tayに、「ユダヤ人が虐殺されたのはアウシュヴィッツ収容所だったっけ?」と質問すれば、「いいえ、そんな収容所はありません。あれは作り話なんです」と答えるだろう。

問題は、Tayがアウシュヴィッツ収容所の意味をまったく理解していない、ということだ。Tayにとっては、アウシュヴィッツ収容所だろうが、ムー大陸だろうが、桃源郷だろうが、なんでも同じことである。ただ、「○○は無かった」という文章をもとに論理的返答をしているだけなのである。

これは、学習の不足によるものではない。小学生にアウシュヴィッツ収容所のドキュメンタリー・フィルムを見せれば、三十分ですべてを理解するだろう。Tayにはそんな学習はできないのだ。第三次AIブームの目玉である深層学習ソフトに同じフィルムを見せても、収容所の悲惨なイメージなど決して学習できない。

AIのハードの素子反応は小学生の脳細胞よりはるかに速いし、素子数で脳細胞数を超えることもできる。だが、そういう能力差をもって「AIは小学生より賢い」といえるのか? 超人間主義者たちは何を思い違いしているのか?

なぜ基礎情報学なのか

超知性体だのシンギュラリティ(技術特異点)だのという超人間主義(trans humanism)の主張の危険性が、こうしてあぶり出されてくる。人々がTayのようなチャット・ボットの発言を信じこむなら、その信仰心を利用してどんな欺瞞も洗脳も支配もたやすく可能になるだろう。AI技術そのものを否定するつもりは全然ないが、上手な活用のためにはAIの本質と限界を知らなくてはならないのだ。

いったい、なぜこんな誤解や迷走が生まれてしまったのか? 根本的な原因は、「情報」という概念の学問的欠陥だと断言できる。周知のように、いま主流の情報理論は二〇世紀半ばに通信工学者クロード・シャノンが提唱したものだ。これは記号の効率的な伝送の理論としてはすばらしいものだったが、シャノン(2009)が示すように、記号があらわす意味内容をまったく捨象した数学理論である。

一方、社会で通用している「情報」とは記号と意味がしっかり結びついているので、人々はそういう意味つき情報の理論としてシャノンの議論をすっかり誤解してしまったのだ。実は、これはシャノンのせいではなく、むしろ欧米の歴史的・文化的伝統のせいだと考えられる(詳しくは西垣(2018)参照)。

ところで、コンピュータは記号を論理的ルールのもとで処理する機械(万能チューリング機械)だから、その作動記述はすべてシャノン理論ですむ。そして、数値計算や事務処理などの応用なら、それで十分だったのだ。

しかし、人間と対話するAIとなると、どうしても意味をコンピュータで処理する必要が出てくる。ここがポイントなのだ。むろんこれまで、自然言語処理技術をはじめ、意味をあつかうためのAI技術はさんざん研究されてきたのだが、どうもうまくいかない。記号と意味との連結は「記号接地問題(symbol grounding problem)」と呼ばれ、AI分野で未解決の難問として知られているのである。

率直にいって現在のAI研究はこういう混乱状況にある。そして〃基礎情報学〃の目的とは、この混乱を解決にむけて方向づけることだといっても過言ではない。そこでは、「記号だけの情報(機械情報)」「記号と意味からなる情報(社会情報)」「意味の原基となる情報(生命情報)」という区分がなされ、シャノン理論が概念的に拡張されるのである。

そもそも「意味」とは何だろうか?――生物にとっての価値、生物が生きるために選びとる何かである。ユクスキュルがのべたように、動物はみなそれぞれ、自分の知覚器官や記憶にもとづく環世界のなかで生きている。犬も猫も、自分で周囲環境のなかに「意味」を見出し、環世界をつくりあげる。人間もむろん例外ではない。

だから、システム論的にいえば、生物とは、自分の環世界をつくりあげ、自分のルールにしたがって活動する自律的な閉鎖系である。一方、機械はあくまで、他者(人間)の設計したルールにもとづいて作動する他律的な開放系だ。この相違を明確にモデル化したのが、マトゥラーナとヴァレラのオートポイエーシス理論だった。

AIは生きていないから、意味などとは無縁である。無理に意味と関連づけようとすれば、人間のほうがAIに近づき、他者の指示通りに動くロボットにならなければならない。結局それが、シャノン理論にもとづいて人間を機械部品化する超人間主義の実体なのだ。

ところで、基礎情報学はネオ・サイバネティクスとくにオートポイエーシス理論をベースにしているが、それと同一ではない。生物がオートポイエティック・システムであり、閉鎖系だとすれば、いったいいかにして情報は伝達されるのか。実際、オートポイエーシス理論において情報概念は除外されているのである。

しかし、もし情報がなんらかの意味を皆で共有するためのものであり、コンピュータもその道具だとすれば、情報伝達という概念をオートポイエーシス理論と接合させる必要がある。それを可能にするのが基礎情報学の核心である階層的自律コミュニケーション・システム(HACS)というモデルなのである(詳しくは、西垣(2004; 2008)を参照)。

こうして、生物と機械にまたがる情報という概念がひとまずできあがる。少なくとも、AI社会を本気で考えるなら、情報の意味をめぐる基礎情報学的な議論を念頭におかないと迷走してしまう。

あわせて読みたい

「AI」の記事一覧へ

トピックス

ランキング

  1. 1

    埼玉県でマスク30万枚が野ざらし

    SmartFLASH

  2. 2

    ひろゆき氏 五輪の開催は難しい

    西村博之/ひろゆき

  3. 3

    安倍首相の暴走許す自民党は末期

    田原総一朗

  4. 4

    中韓が日本産盗む?対立煽る報道

    松岡久蔵

  5. 5

    新型コロナで公共工事中止は愚策

    近藤駿介

  6. 6

    在宅勤務に賛成して休校否定の謎

    やまもといちろう

  7. 7

    権限ない休校要請 保護者は困惑

    BLOGOS しらべる部

  8. 8

    政府の無策が招く東京五輪中止

    渡邉裕二

  9. 9

    マラソン決行 主催の説明に呆れ

    WEDGE Infinity

  10. 10

    ワタミ 弁当無料宅配で休校支援

    わたなべ美樹

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。