【読書感想】悪のAI論あなたはここまで支配されている

2/2

　そもそも、自動運転車の事故は、誰の責任になるのか。

　AIがこのまま進歩していっても、そう簡単に「完璧」にはなりません。自分が常に、そのメリットを享受する側であるとは限らないのです。

　また、AIに関しては、そのプログラムを組んだり、判断基準を設定したりするのが「人間」であるかぎり、「バイアス」から逃れるができないのではないか、という議論もされています。

　ジョイ・ブォラムウィニ氏は、2018年2月に、ユーチューブ動画のもとになった研究を発表している。

　研究では、IT大手が提供しているAIによる顔認識のシステムの精度を、男性と女性、白い肌と黒い肌で比較。白人男性に比べて、黒人女性に対する誤認識率が、かなり高いことがデータから明らかになったとしていた。

　比較には性別、人種のバランスを考慮し、ルワンダ、セネガル、南アフリカのアフリカ3ヵ国と、アイスランド、フィンランド、スウェーデンの欧州3ヵ国の議会議員1270人の顔写真をサンプルとして使用、性別と肌の色（白い、黒い）で分類した。

　その上で、マイクロソフト、IBM、フェイス＋＋の誤認識精度を比較した。

　その結果、三つのサービスの誤認識率は、いずれも男性より女性、白い肌より黒い肌の方が高い数値を示した。

　性別と肌の色の組み合わせを見ていくと、三つのサービスでいずれも誤認識率が最も高かったのは肌の色の黒い女性だ。マイクロソフトでは20.8％、フェイス＋＋では34.5％、IBMでは34.7％だった。

　逆に誤認識率が最も低かったのはマイクロソフト（0.0％）とIBM（0.3％）で白い肌の男性、フェイス＋＋では肌の黒い男性（0.7％）だった。

　つまり、黒人女性なら3人に1人から5人に1人の割合で間違える、白人男性なら100人に1人以下でしか間違えない、という結果だ。

　製作者たちに差別的な意図があったというよりも、顔認識ソフトを作ったIT企業が使ったサンプルに白人のものが多かったのではないか、とも述べられているのですが、「わざと」ではないのに、結果的に、人種によって認識率がこれほどまで違う、というのは、AIというのが、現状では「作る側にも利用する側にも、人種的な偏りがある」ことを示してもいるのでしょう。

　2015年には、グーグルフォトで、黒人女性が「ゴリラ」とタグ付けされたことが物議を醸していましたし。

　ちなみに、この本によると、2018年1月に「グーグルフォト」の画像認識の精度を検証したところ、「ゴリラ」「チンパンジー」「サル」では「検索結果なし」という回答だったそうです。

　それをグーグルに問い合わせたところ、2015年の騒動以来、検索語、タグから「ゴリラ」を外し、「チンパンジー」「サル」もブロックしているのだとか。

　現状、精度を上げるよりも、問題を起こさないことが優先されている、ということなのでしょう。

　技術は日進月歩だけれど、バイアスや一部の悪意を持つ人々の影響を排除するのは、本当に難しい。

　AIは万能には程遠いが、様々な点で、人間をはるかに超える能力を持つ。このギャップが、AIと人間のつきあい方をわかりにくくする。

　この点について、先のインタビューで、ケヴィン・ケリー氏（『ワイアード』の創刊編集長）はこう述べている。
　グーグルの傘下企業が開発したAI「アルファ碁」は、世界最強棋士の一人を打ち負かしました。ただ、機械の順位を言うなら、すでに電卓は計算で人間に勝っている。AIの特徴は、発想が”人間らしくない”点です。多様なAIの知性を組み合わせることで、人間が新しい発想をする手助けになるんです。

　20年ほど前、IBMのAI「ディープブルー」がチェスの世界王者、ガルリ・カスパロフさんを破りました。カスパロフさんはその後、人間とAIがチームを組む「ケンタウロス（半人半馬）」というチェスのスタイルを生み出します。今や最強のプレーヤーは「ケンタウロス」です。人間とAIは、競争ではなく、協働が重要なんです。AIやロボットといかにうまく協働できるかで、未来の給料も決まるでしょう。
　電卓としては桁外れな能力を持つが、「公平」については理解できない。

　かなりつきあいにくい相手ではあるが、「ケンタウロス」として何とかうまくつきあっていく。

　そこで必要なのは、AIの危険性や様々な短所をあらかじめ理解しておく、ある種のリテラシーだろう。それをわきまえた上で、AIを使って社会をどのように変えていきたいのか、ということが問われてくる。

　とはいえ、この手の「リテラシー」というのは、そう簡単に身に付けられるものではないし、悪意がある相手ほど、それをうまく隠そうとするものではあります。

　どんなにすぐれたAIであろうとも、それを開発・運用するのが人間である以上、関わる人間の影響を受けるのです。

　とはいえ、自律的に活動できるAIも、やっぱり怖い。

　AIそのものが悪なのではなくて、それをどう使うか、ということに尽きるのですが、「すべての人が、包丁を凶器として使わない社会」というのも、想像しがたいものではあるのです。

AI vs. 教科書が読めない子どもたち
作者: 新井紀子
出版社/メーカー: 東洋経済新報社
発売日: 2018/02/02
メディア: Kindle版
この商品を含むブログ (2件) を見る