記事

なぜAIは女性の人事評価を低く見積もってしまうのか

1/2

AIが人類の生活や安全を脅かす日は来るのだろうか。AIに詳しい作家の川添愛氏はAIの裏側にある“人間の側の問題”を指摘し「機械が言葉を扱う能力を正しく評価する必要がある」という——。(第1回/全2回)

※本稿は、川添愛『ヒトの言葉 機械の言葉』(角川新書)の一部を再編集したものです。

脳の形・人工知能のコンセプト
※写真はイメージです - 写真=iStock.com/Vertigo3d

「人間の言葉」を話せるようになったか

普段の生活の中で、機械が発する言葉を聞くのは珍しくありません。

留守番電話の「お預かりしているメッセージは『いっ』件です」や、駅の自動券売機でおつりが出たときにしつこく言われる「おつりをお取りください」などは、よく耳にする機械の言葉です。しかし、留守電や券売機の発する言葉を聞いて、「機械が自ら言葉を話している」と思う人はほとんどいないのではないでしょうか。

他方、スマートフォンやスマートスピーカーなどが発する言葉はどうでしょう。

そういった機器は現在、AI(人工知能)技術の発達のおかげで、私たちが発する音声をほぼ正確に認識し、私たちの話す内容に応じてかなり柔軟な反応をするようになっています。まるで人間がするような応答を聞いて、「AIは人間並みに言葉を理解し、話せるようになったのだ」と思っている人も多いかもしれません。そういった応答をする機械が人間に近い姿をしている場合は、さらにそのような印象は強まることでしょう。

第三次人工知能ブームが始まって以来、たびたびAIの脅威が囁かれるようになりましたが、そのきっかけが「AIの言葉」であることも少なくありません。2016年には、香港の企業が開発したソフィアというロボットが「人類を滅ぼす」と発言して話題になりました。

AIは人類の敵なのか

また2017年には、「Facebook社が開発中のAIが人間にとって意味の分からない独自の言語を発明し、AIどうしで勝手にコミュニケーションを始めたため、開発者たちが機械を緊急停止した」と報じられました。

そのときは「これらのAIは人間をどうやって滅ぼすか相談していたのではないか?」といった憶測や、「SFの世界が現実になった、興奮する」「AIがせっかく新しい言語を発明したのに、なぜそれを解読せずに機械を止めてしまったのか。もったいない」などといった意見がありました。

実際のところ、今のAIは、人間と同じように言葉を理解したり、話したりしているわけではありません。「人類を滅ぼす」と言ったロボットについては詳細が明かされていませんが、このロボットが会話を「学習」するときに使われたデータの中にそのような言い回しが多数あったとする見方が一般的です(「学習」というのは「機械学習」のことです)。

またFacebook社の「独自言語を開発したAI」については、同社が後に正式に「(AIが)人間に何かを隠すような意図をもったというのは、全くクレイジーな狂言だといえる」と表明し、AIが独自言語を創り出したという報道を否定しています。

まだ人間の「言葉」も解明できていない

よって、これらの事例から「AIがついに言葉を理解できるようになった」とか、「滅亡へのカウントダウンが始まった」「AIが人間を支配する日も近い」などと判断するのは早計であると言えます。ただしこの先、AI技術が進み、機械がより巧妙に、より私たちに近い形で言葉を扱えるようになることは想像に難くありません。

そのとき私たちは、どの時点で、いったいどういった根拠に基づいて「機械が人間と同じように言葉を理解し、話せるようになった」あるいは「まだそうなっていない」と判断すれば良いのでしょうか? たとえば今後、より進んだAIが「人類を滅ぼす」などと発言したとき、私たちは何を根拠にして「これは脅威だ」あるいは「脅威ではない」と判断すればいいのでしょう?

実のところ、この問題に答えるのは簡単ではありません。なぜかというと、「言葉を理解するとはどういうことか」にも、「そもそも言葉の意味とは何か」にも、まだ確かな答えが出ていないからです。

しかし少なくとも、機械が言葉を扱う能力を正しく評価するための基礎知識として、今の機械がどのように言葉を扱っているか、また私たち人間の言葉にどのような謎があるかを知る必要があります。

AIを特徴づける4つのポイント

ここ数年の間に、AIの研究は大きな発展を遂げています。ここで「今のAIの言葉」について簡単にポイントを紹介すると、次のようになります(ここでは説明は省きますが、詳しくは拙著『ヒトの言葉 機械の言葉』をお読みください)。

① コンピュータおよびAIの内部では、言葉や画像や音声などのデータをすべて数(の並び)として扱われる。

② 今のAIは、数(の並び)を入力したら数(の並び)を出力するものである。

③ 機械学習とは、限られた数のデータの中からパターンを発見し、新しいデータに対して分類や予測をする関数を求める技術である。

④ (機械学習の一種である)深層学習で用いられるニューラルネットワークは、膨大なパラメータ(媒介変数)を持つ関数と見なすことができる。

以上を踏まえた上で、以下では「今の機械の言葉」にまつわる問題をいくつか見ていきたいと思います。

データを頼りにする機械学習

機械学習は、データを手がかりにして「こういう数(の並び)が入力されたら、こういう数(の並び)を出力する関数」を求める技術です。つまり機械学習で開発されるAIにとっては、データがお手本であり、正しい動作の基準になります。機械学習のこういった側面には、人間がわざわざ「こういう入力が来たら、これこれこういう過程を経てこういう出力を出しなさい」と機械に命じる必要がないというメリットがあります。

つまり、私たちがデータの中に潜んでいる法則性や規則性を自分で見つけたり、言葉で表したりする手間が省けるわけです。しかしその反面、お手本となるデータの数や質によってAIの動作が左右される、という問題があります。

たとえば、人と対話をするAIについて考えてみましょう。対話をするAIに対する入力は「人間からの問いかけ」です。それに対して、AIが出力するのは、入力に対する「自然な応答」です。自然な応答を出力できるAIを機械学習で開発する場合には、人間による対話のデータが必要です。対話のデータとは、たとえば次のようなものです。

問いかけ:調子どう?

返答:まあまあだよ。

問いかけ:見た目は元気そうだね。

返答:最近、ジムに通い始めたからね。

問いかけ:どこのジム?

返答:家から近いとこ。

このようなデータを機械学習に利用して、自然な応答ができるAIを作るわけです。この場合、AIが出してくる返答は、開発のときに与えられたデータに影響されます。もし、与えられた対話データの中に倫理的に問題のある内容が大量に含まれていれば、それを利用して開発されるAIも倫理的に問題のある応答をする可能性が高くなります。この記事の冒頭で紹介した「人類を滅ぼす」と発言したAIも、おそらく開発時に使われた対話データの中に、そのような物騒な発言が相当数含まれていたのでしょう。

あわせて読みたい

「AI」の記事一覧へ

トピックス

ランキング

  1. 1

    竹中平蔵氏は教え子が引退勧めよ

    田中俊英

  2. 2

    中国に反論せず 茂木外相の失態

    WEDGE Infinity

  3. 3

    眞子さま結婚に浮かぶ若者の苦悩

    木村正人

  4. 4

    セルフレジが「改悪」になるお店

    内藤忍

  5. 5

    感染増の地域 知事がTV映え優先

    山内康一

  6. 6

    歴史に残る読売の安倍氏スクープ

    文春オンライン

  7. 7

    バラマキ予算作成が最優先の怪

    鈴木しんじ

  8. 8

    大塚久美子氏が辞任 戦略に矛盾

    東京商工リサーチ(TSR)

  9. 9

    上野千鶴子氏がフェミになった訳

    PRESIDENT Online

  10. 10

    小林麻耶の降板番組 3月末で終了

    SmartFLASH

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。