記事

飲めないのに「コーヒーが好き」…なぜAIの言葉は嘘っぽく聞こえるのか

1/2

人型ロボット「ペッパー」など、人間と会話できるよう開発されたAIは多い。だが、中には違和感のある回答をする場合がある。対話システムを研究している名古屋大学大学院教授の東中竜一郎氏は、「例えば、AIが『コーヒーが好きです』と話すと嘘っぽく聞こえる。これは共感することの難しさを端的に示している」と指摘する――。

※本稿は、東中竜一郎『AIの雑談力』(角川新書)の一部を再編集したものです。

お客から料理の注文を受けるソフトバンクのロボット「Pepper(ペッパー)」=2020年11月5日

お客から料理の注文を受けるソフトバンクのロボット「Pepper(ペッパー)」=2020年11月5日 - 写真=EPA/時事通信フォト

ロボットに感情を持たせることはできる?

ペッパーがリリースされた際、感情を理解することができると大々的にアピールされていました。また、りんなもユーザと感情を伴った交流ができることを特徴としています。人間らしいロボットの話題になると、多くの人は「感情を持っているロボット」を想像するようです。多くの人は「あの人はロボットみたいだ」と言われると感情がないと指摘されたように感じると思います。

感情を理解できることは対話システムにとって重要です。相手が悲しい時に、まったくそれを理解しない無神経な話をしてしまったり、相手が喜んでいるときに一緒に喜べなかったら、社会的にまったく不適切でしょう。米軍が作っている兵士向けのカウンセリングシステムも話者の感情を推定し、適切な対話戦略を取るように作られています。

人間は意外なほど話し相手に共感している

感情理解の目的の一つは共感にあるといっても過言ではありません。共感なくして、信頼は生まれません。ここでは雑談AIにおける共感について触れておきたいと思います。

人間にとって共感は非常に重要で、人間同士の雑談のデータを収録して発話意図のラベルを付与したところ、共感・同意という発話意図のラベルは全体の12%もありました。つまり、8回に1回ほど同意や共感を示していることになります。これは大変多いのではないでしょうか。

共感的にふるまうロボットは、より信頼を得られることが知られています。ゲームなどで相手となる対話システムでは、共感をすることでより相手に信じてもらいやすくなることが示されています。私たちの研究グループでも雑談AIにおける共感の影響について調査をしています。

たとえば、好きな動物・嫌いな動物についての雑談を行うシステムを作ったことがあります。このシステムでは、共感を行う頻度をコントロールできるようにしてありました。そして、全然共感しないシステムや少し共感するシステム、かなり共感するシステムなどを作り、共感した回数とユーザの行動や対話の満足度の関係を調べました。

AIが共感すると、ユーザの満足度が上がる

ある設定のシステムは、ユーザが「猫が好きです」と言ったのに、「私は猫が嫌いです」と言ったりします。別の設定のシステムでは、同じようなユーザの発話に対して「分かります。私も猫が好きです」と言ったりします。すると、共感するシステムのほうがユーザの満足度が高い結果に。また、面白いことに、システムの共感の回数が多いほどユーザの共感の回数が多い傾向が見られました。

つまり、システムが共感をすればするほど、ユーザも共感する傾向にあったのです。共感するということは、少なくとも相手を気に掛ける、相手がどう思っているのかを考えるということです。共感することにより、ユーザからのそうした行動を引き出しうることは、ユーザとの信頼関係を築く上で、極めて重要な結果です。

私たちが作った別の共感を行う雑談AIは、自身のエピソードを持っており、それに基づいて相手に共感を示します。旅行についての雑談を行うのですが、ユーザが「清水寺を見て京都が楽しかった」という内容の発言をすると、自身のエピソードに似た内容がないかを探します。そして、たとえば「銀閣寺を見て京都を楽しんだ」というエピソードがあったとすると、「私も京都に行きました。銀閣寺を見たのですが楽しかったです」といった応答ができます。

2016年10月6日の銀閣寺

※写真はイメージです - 写真=iStock.com/tapanuth

これは、単に同意や共感を示しているだけではなく、自身の経験に裏打ちされた共感です。このようにエピソードを持たせることによって、共感をより深いものにすることが可能です。

嘘っぽく聞こえる「発話の帰属」問題

ただ、気を付けなくてはいけないのはロボットや対話システムに本当に共感ができるのかという点。ここは対話研究者の中でもよく話題に上ります。たとえば、雑談AIが「コーヒーが好きです」と言ったとして、システムはコーヒーが飲めないわけです。なので、どうしても嘘っぽくなってしまいます。「京都に行ったのですが清水寺がきれいでした」と言っても、「ほんとかよ?」となります。

こういう問題を、発話が誰のものかという意味で、発話の帰属の問題と言ったりします。発話の帰属の問題があるために現状の雑談AIでは真の意味で共感ができていると言えないでしょう。

一部の対話システムではこの問題を避けるために、伝聞調を利用します。「ネットでおいしいと言っている人がいました」「京都に行った人が大変良かったと言っていました」のように話すというものです。このやり方は比較的ユーザに受け入れられることが分かっています。今のシステムはコーヒーを飲んだり自分の意志で京都に行ったりできませんが、将来的にはそのようなシステムも出てくると思います。そうすると、システムの共感もより人間に伝わるものになるでしょう。

あわせて読みたい

「AI」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    70代の死亡者も1年間で1万人に1人。コロナは「国家的危機」ではない。

    青山まさゆき

    06月16日 15:40

  2. 2

    女性天皇と女系天皇をひとくくり 毎日の恣意的な記事に騙されるな

    和田政宗

    06月16日 21:28

  3. 3

    記念撮影にも呼ばれず……G7で相手にされなかった韓国・文在寅大統領

    NEWSポストセブン

    06月16日 11:25

  4. 4

    世帯視聴率から個人視聴率重視へ テレビ界の大変革でお笑い番組は増加したか

    松田健次

    06月16日 08:05

  5. 5

    なぜ日本のテレワークは効率が悪いのか?

    シェアーズカフェ・オンライン

    06月16日 09:21

  6. 6

    立憲民主党はPCR万能主義がいまだにコロナ対策の中心 この政党に日本を任せるな

    中村ゆきつぐ

    06月16日 08:08

  7. 7

    論破王ひろゆき「超リア充のインフルエンサーもSNS投稿しないときはカップ麺をすすってる」

    PRESIDENT Online

    06月16日 11:52

  8. 8

    「スポーツ界の取り組みも理解して」の誤魔化し

    諌山裕

    06月16日 14:24

  9. 9

    枝野代表の経済演説で感じた違和感

    小倉将信

    06月16日 19:37

  10. 10

    「空港は一般客とは別の専用口を用意しろ」VIP待遇を求めるIOCに怒り

    マガジン9

    06月16日 15:47

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。