記事

飲めないのに「コーヒーが好き」…なぜAIの言葉は嘘っぽく聞こえるのか

1/2

人型ロボット「ペッパー」など、人間と会話できるよう開発されたAIは多い。だが、中には違和感のある回答をする場合がある。対話システムを研究している名古屋大学大学院教授の東中竜一郎氏は、「例えば、AIが『コーヒーが好きです』と話すと嘘っぽく聞こえる。これは共感することの難しさを端的に示している」と指摘する――。

※本稿は、東中竜一郎『AIの雑談力』(角川新書)の一部を再編集したものです。

お客から料理の注文を受けるソフトバンクのロボット「Pepper(ペッパー)」=2020年11月5日

お客から料理の注文を受けるソフトバンクのロボット「Pepper(ペッパー)」=2020年11月5日 - 写真=EPA/時事通信フォト

ロボットに感情を持たせることはできる?

ペッパーがリリースされた際、感情を理解することができると大々的にアピールされていました。また、りんなもユーザと感情を伴った交流ができることを特徴としています。人間らしいロボットの話題になると、多くの人は「感情を持っているロボット」を想像するようです。多くの人は「あの人はロボットみたいだ」と言われると感情がないと指摘されたように感じると思います。

感情を理解できることは対話システムにとって重要です。相手が悲しい時に、まったくそれを理解しない無神経な話をしてしまったり、相手が喜んでいるときに一緒に喜べなかったら、社会的にまったく不適切でしょう。米軍が作っている兵士向けのカウンセリングシステムも話者の感情を推定し、適切な対話戦略を取るように作られています。

人間は意外なほど話し相手に共感している

感情理解の目的の一つは共感にあるといっても過言ではありません。共感なくして、信頼は生まれません。ここでは雑談AIにおける共感について触れておきたいと思います。

人間にとって共感は非常に重要で、人間同士の雑談のデータを収録して発話意図のラベルを付与したところ、共感・同意という発話意図のラベルは全体の12%もありました。つまり、8回に1回ほど同意や共感を示していることになります。これは大変多いのではないでしょうか。

共感的にふるまうロボットは、より信頼を得られることが知られています。ゲームなどで相手となる対話システムでは、共感をすることでより相手に信じてもらいやすくなることが示されています。私たちの研究グループでも雑談AIにおける共感の影響について調査をしています。

たとえば、好きな動物・嫌いな動物についての雑談を行うシステムを作ったことがあります。このシステムでは、共感を行う頻度をコントロールできるようにしてありました。そして、全然共感しないシステムや少し共感するシステム、かなり共感するシステムなどを作り、共感した回数とユーザの行動や対話の満足度の関係を調べました。

AIが共感すると、ユーザの満足度が上がる

ある設定のシステムは、ユーザが「猫が好きです」と言ったのに、「私は猫が嫌いです」と言ったりします。別の設定のシステムでは、同じようなユーザの発話に対して「分かります。私も猫が好きです」と言ったりします。すると、共感するシステムのほうがユーザの満足度が高い結果に。また、面白いことに、システムの共感の回数が多いほどユーザの共感の回数が多い傾向が見られました。

つまり、システムが共感をすればするほど、ユーザも共感する傾向にあったのです。共感するということは、少なくとも相手を気に掛ける、相手がどう思っているのかを考えるということです。共感することにより、ユーザからのそうした行動を引き出しうることは、ユーザとの信頼関係を築く上で、極めて重要な結果です。

私たちが作った別の共感を行う雑談AIは、自身のエピソードを持っており、それに基づいて相手に共感を示します。旅行についての雑談を行うのですが、ユーザが「清水寺を見て京都が楽しかった」という内容の発言をすると、自身のエピソードに似た内容がないかを探します。そして、たとえば「銀閣寺を見て京都を楽しんだ」というエピソードがあったとすると、「私も京都に行きました。銀閣寺を見たのですが楽しかったです」といった応答ができます。

2016年10月6日の銀閣寺

※写真はイメージです - 写真=iStock.com/tapanuth

これは、単に同意や共感を示しているだけではなく、自身の経験に裏打ちされた共感です。このようにエピソードを持たせることによって、共感をより深いものにすることが可能です。

嘘っぽく聞こえる「発話の帰属」問題

ただ、気を付けなくてはいけないのはロボットや対話システムに本当に共感ができるのかという点。ここは対話研究者の中でもよく話題に上ります。たとえば、雑談AIが「コーヒーが好きです」と言ったとして、システムはコーヒーが飲めないわけです。なので、どうしても嘘っぽくなってしまいます。「京都に行ったのですが清水寺がきれいでした」と言っても、「ほんとかよ?」となります。

こういう問題を、発話が誰のものかという意味で、発話の帰属の問題と言ったりします。発話の帰属の問題があるために現状の雑談AIでは真の意味で共感ができていると言えないでしょう。

一部の対話システムではこの問題を避けるために、伝聞調を利用します。「ネットでおいしいと言っている人がいました」「京都に行った人が大変良かったと言っていました」のように話すというものです。このやり方は比較的ユーザに受け入れられることが分かっています。今のシステムはコーヒーを飲んだり自分の意志で京都に行ったりできませんが、将来的にはそのようなシステムも出てくると思います。そうすると、システムの共感もより人間に伝わるものになるでしょう。

あわせて読みたい

「AI」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    「スゴイ日本!」ばかりのテレビ五輪放送。在留外国人は東京五輪を楽しめるか

    Dr-Seton

    08月05日 08:29

  2. 2

    なぜ選手が首長を訪問? 名古屋・河村市長のメダルかじりで「表敬訪問」に疑問の声

    BLOGOS しらべる部

    08月05日 18:37

  3. 3

    淀川長治さんが『キネマの神様』を絶賛?CMに「冒涜」と映画ファン激怒

    女性自身

    08月05日 09:07

  4. 4

    ベラルーシ選手はなぜ政治亡命したのか ルカシェンコ政権の迫害ぶりを示した東京大会

    WEDGE Infinity

    08月05日 09:18

  5. 5

    環境省がエアコンのサブスクを検討 背景に熱中症死亡者の8割超える高齢者

    BLOGOS しらべる部

    08月04日 18:05

  6. 6

    ワクチン完全接種5割の8月末まで好転無しか

    団藤保晴

    08月05日 09:02

  7. 7

    東京都、新規感染者数5042人に疑問

    諌山裕

    08月05日 17:42

  8. 8

    ひろゆき「バカほど『自分にごほうび』といってムダにお金を使う」

    PRESIDENT Online

    08月05日 15:33

  9. 9

    入院制限の前にやることがあるでしょう

    鈴木しんじ

    08月05日 14:09

  10. 10

    テレビ放映権中心に回り夏開催される五輪 舛添氏が改革案を公開

    舛添要一

    08月05日 08:33

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。