AI化で「製造」される問題、「発見」される問題。

新たな問題が「製造」され、埋もれていた問題が「発見」される

ここからは医療×AIというテーマでお話します。このまま医療AIが発展したら、どのような問題が起こるのでしょうか。

大きく2つのパターンがあります。1つは、今まで隠れていた問題が発見される、もしくは今まで存在していた問題がよりシビアになるというケース、もう1つはAIを導入したことで新たな問題が発生するケースです。

正確にはきっかりと2つに分かれるわけではないのですが、内容を単純化するため、ここでは2つに分けてお話します。
問題の製造と発見。私個人の見解としては前者よりも後者のケースの方が多くなると思っています。

まず、後者の具体的事例では、例えば尊厳死や安楽死を望む人の増加が考えられます。AIによって「将来、あなたは確実に不治の病になる」と診断を下されることで、この先、生きる希望を失って自ら命を断ってしまおうと思う人が増えるかもしれません。

AIが誤診する可能性も出てきます。その際の責任の所在は誰が取るのかという問題が生じるでしょう。

すでに近年問題になっているのが出生前診断です。最近ではゲノム調査で頭のよしあしまで予測可能になるという論文が出ています。本当にそうなった時、親としてどのような判断を下すのか。その倫理面がより問われるでしょう。

健康と幸福の格差も広がります。例えば低所得者が糖尿病になる確率は中・高所得者人に比べて1.2～1.5倍も高いという調査結果があります＝下図グラフ参照。

さらに人はお金がない時とある時でIQの値が約10程度違うと言われています。また、お金がなくなるとやりくりに追われるために判断能力が低下し、薬の飲み忘れが増える、という報告もあります。

貧困状態が続くと健康に気を使う余裕がなくなり、ひいては健康を損ねてしまいかねないのです。

AIの普及で診断のレベルは上がるかもしれない。ですが、貧困層は診断後の健康改善といったメリットを受けられません。経済格差がそのまま健康格差になっているわけです。

さらに、最近ではIoTで取得したデータを分析した研究から、幸福感の予測が可能になっています＝上図。幸福感が測定できるようになると、幸福度を最適化する行動の傾向も見えてくるでしょう。

富裕層がそうしたことにお金を使い、幸せになっていく一方で、その余裕のない貧困層は不幸のままという可能性もある。こうして、幸福格差も広がっていくかもしれません。

新しく発生する可能性のある倫理問題

後者のAIが普及することによって新しく発生する倫理問題としては、1つは止まらないAI誤診があります。AIの場合、一度学習したモデルで誤診が出た場合、もう一度モデルを作り直すのはかなり大変で、リスクも増します。

例えば前のモデルでデータを蓄積するのに10年かかったとしたら、新しいモデルを作るためのデータの収集にまた10年を要するかもしれません。誤診に気づくまでの間、さらには新しいデータを貯めてモデルが改良するまで間、誤診が続く可能性があります。

誤診が発見され次第、AI の活用を止めればいいかもしれませんが、仮に誤診を考慮に入れてもAIの方が人より精度が高い場合はどうすればいいのでしょうか？

また、診断を人からAIにスイッチしたタイミングでトロッコ問題が発生します。

トロッコ問題とは、有名な倫理問題で、トロッコが今走っている線路をそのまま走ると5人が死ぬ。スイッチを切り替えて進路を別のレールに変えると1人死ぬ。どちらを選ぶべきか？　という問いです。

それと同じで、このまま人が診断をすると誤診の確率は20％だけど、AIに切り替えると5％に減る。ただ、AIに切り替えたことで新たに誤診されてしまう人が出てくる可能性がある。そうした問題があらかじめわかっていればいいけれど、後から判明した場合、その倫理責任は誰が取るのか、という問題です。

これに関しては、100年以上前の小説家が今につながる視点を提起しています。なので「製造」というよりは「発見」のほうに近い問題かもしれまんせ。具体的には、中国の小説家、魯迅です。

初期の作品集「吶喊（とっかん）」（1923年）の原序の中で、彼は「鉄の部屋」というたとえを記しました＝下資料。

彼が述べている視点は、医療AIがもたらすものへの倫理的な視点と同じです。

AIによって、数年後に健康状態が損なわれる、もしくは死んでしまうことがわかっているとして、それを本人にあえて伝える必要があるのか。現状では対処の方法もわかっていない。知らなければ数年間は幸せに過ごせるのに、知ってしまったことでずっと不安に苛まれるかもしれない。

具体的なお話はできませんが、実際にそれが実現される可能性がある疾患がいくつかあります。現状の医療でも、末期がんなど同じ問題が発生していますが、その領域がAIによって拡大していく可能性は高いでしょう。

このような問題にどう対処するかが、人々を幸せにする上で重要な点になると思います。

この問題はAIでは解決できません。私達で考え、道を探っていく必要があるのです。

木下正文（きのした・まさふみ）株式会社ABEJA Use Case 事業部。名古屋大学理学部卒業後、レバレジーズ株式会社に入社。新卒採用、マーケティング、データサイエンス、新規事業の立ち上げ、経営企画に従事。2019年から ABEJA にジョイン。主にマーケティングや医療に関連するプロジェクトを担当している。

文・写真：山下久猛 編集：錦光山雅子

ABEJAは2019年春から「ABEJAコロキアム」を始めました。識者や実務家を講師に招き、記者や編集者たちが社会とテクノロジーの交差点にあるテーマを議論する「学びの場」です。第3回（2019年10月25日）のテーマは「すすむ医療のAI化、社会システムをどう再定義する？」。本記事はその模様を編集しています。