記事

飲めないのに「コーヒーが好き」…なぜAIの言葉は嘘っぽく聞こえるのか

2/2

共感は人間同士でも難しい

共感の難しさを示すエピソードを一つ紹介します。共感のやり方の一つに言い換えがあります。相手の言っていることを、ちゃんとわかったことを示すために自分の言葉で言いかえて相手に伝える方法です。これによって、表面だけではなく、内容まで分かってもらえたと伝えることができるメリットはあるのですが、実はそうとも限らないのだとか。

相手のことを聞くことだけを専門にするサービスがあります。その会社の方にヒアリングする機会があったのですが、そのマニュアルによれば相手の言うことを一字一句そのまま繰り返した方がよい場合もあるというのです。そのような場合は、お客様が「猫がかわいい」と言ったら「猫はかわいいですね」と相づちを打つのが正解で、「猫は愛らしいですね」などと言うと、「愛らしいなんて言ってない! 勝手に分かったようなことを言うな」と言われてしまうそうです。これは共感することの難しさを示していると思います。

女性とロボットの握手

※写真はイメージです - 写真=iStock.com/Mikhail Konoplev

行間を読めないと勘の悪いシステムになってしまう

雑談AIは聞いたこと以上を理解する必要もあります。そうしないと、勘の悪いシステムになってしまいます。「行間を読む」といいますが、スムーズなコミュニケーションのためには、言葉に現れない「言外の情報」を理解することが重要です。

文脈における言葉の意味を解釈する研究のことを語用論と言います。「今日は暑いですね」とユーザが言ったら「クーラーをつけてほしい」という意味であると解釈するのが語用論です。よく「京ことば」などがテレビでも話題になりますが、京都でお茶漬けを勧められたり、時計を褒められたりしたら要注意です。それはそのままの意味ではなく、「もういい時間だから帰ってほしい」という意味だと思われるからです。

私たちの研究グループでは、人間同士の雑談から得られた発話のそれぞれについて、どういう言外の情報が含まれているかを多くの人に書き出してもらい、それらをまとめ上げることで、言外の情報を類型化しました。その結果、大きく二つのグループに分かれることが分かりました。一つは「思考」に関するグループで、もう一方は「事実」に関するグループです。ユーザが何か言うと、ユーザの考えが伝わってくる場合と、ユーザに関する事実が伝わってくる場合があるということです。

ひとつの発話には「思考」と「事実」が詰まっている

思考に関するグループは、さらに、信念(自分がどう思っているか、自分が相手のことをどう思っているのか)が伝わる場合と、願望(自分はどうしたいのか、自分は相手にどうしてほしいのか)が伝わる場合に分かれます。

東中竜一郎『AIの雑談力』(角川新書)

東中竜一郎『AIの雑談力』(角川新書)

「ダイエットに成功したなんてすごいですね!」という発話からは「ダイエットは大変だと思っている」とか「相手のことを尊敬している」ことが伝わります。「風邪をひきました」という発話では、「相手に慰めてほしい」や「早く元気になりたい」といった願望が伝わるでしょう。先ほどの京ことばの例は、相手にどうしてほしいかの願望が伝わる場合に分類されると言えます。

事実に関するグループは、さらに、自分のプロフィール・経験・環境に関するものと一般的な事実についてのものに分かれます。「この間授業参観に行った」という発話からおそらく「結婚をしている」「子供がいる」というプロフィールについての情報が伝わるでしょうし、「この間、富士山に紅葉を見に行きました」という発話からは「富士山には紅葉の見どころがある」といった情報が伝わります。

ユーザ発話にどのような言外の情報が含まれているかを認識できれば、協調的な反応をすることができます。たとえば、授業参観の話を相手が切り出して来たら、「お子さんは何歳ですか?」と言ったり、慰めてほしい話者には慰めると喜んでもらえるでしょう。

一方、注意点も

一点注意があって、言外の情報はあまり口に出さないほうがよいということ。特に、相手に対して否定的な言外の情報を得たとしても口に出すことはしないほうが得策です。また、相手の願望を認識したとしても、それも口に出さないほうがよいでしょう。「慰めてほしい」という情報が伝わったとしても、相手に「慰めてほしいのですね?」などと言うと嫌がられてしまいます。

会話において話者がどのように相手に配慮して話すかを説明するポライトネス理論があります。これによれば人間は「相手からよく思われたい」特性と、「相手に自由を侵害されたくない」特性があります。相手に対して否定的な内容を言ったり、相手の願望を決めつけてしまったりすることは、これらに反するのです。よって、言外の情報は理解しつつ、心の中に押しとどめておいて、ユーザに協調的にふるまうことが大事です。人間社会でもそうですが、思ったことをそのまま言えばよいわけではありません。

----------
東中 竜一郎(ひがしなか・りゅういちろう)
名古屋大学大学院情報学研究科教授
慶応義塾大学環境情報学部卒。同大学大学院政策・メディア研究科博士課程を修了し、博士(学術)を取得。NTTコミュニケーション科学基礎研究所・NTTメディアインテリジェンス研究所上席特別研究員を経て、現職。NTT客員上席特別研究員、慶応義塾大学環境情報学部特別招聘教授。専門は対話システム。著書に『おうちで学べる 人工知能のきほん』(翔泳社)、共著・共編著に『人工知能プロジェクト「ロボットは東大に入れるか」 第三次AIブームの到達点と限界』(東京大学出版会)、『Pythonでつくる対話システム』(オーム社)などがある。
----------

あわせて読みたい

「AI」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    「2021年になって未だに?」 NHKきっかけに日本のFAX文化が世界に 海外からは驚きの声

    BLOGOS しらべる部

    07月29日 17:14

  2. 2

    都の感染者が3865人のからくり 検査数が増えれば陽性者数も増える

    諌山裕

    07月30日 13:07

  3. 3

    歌舞伎×ジャズピアノ、タップダンスにイマジン…五輪開会式はなぜ変化球で攻めたのか

    毒蝮三太夫

    07月31日 08:05

  4. 4

    緊急事態宣言下で爆発している今の状況での延長なんて反感しか産まない ただ政府だけに責任押しつけるな 

    中村ゆきつぐ

    07月31日 08:58

  5. 5

    どうして日本から敢えて海外移住するのか?

    内藤忍

    07月31日 11:03

  6. 6

    もう、オリンピック・ムードに浸り続けるのは無理なんじゃないかな

    早川忠孝

    07月30日 08:37

  7. 7

    無法地帯になってきた空港と選手村 感染爆発が止まらないのも道理

    田中龍作

    07月31日 08:43

  8. 8

    なぜ無効な政策をいつまでも続けるのか?

    青山まさゆき

    07月30日 16:11

  9. 9

    第4波から何も学ばなかった政府 リーダーは意思とメッセージを明確にせよ

    音喜多 駿(参議院議員 / 東京都選挙区)

    07月31日 08:55

  10. 10

    「桜を見る会」不起訴処分の一部を不当に 検察審査会法の改正は司法改革の大きな成果

    早川忠孝

    07月30日 19:09

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。