記事

【読書感想】悪のAI論 あなたはここまで支配されている

1/2

悪のAI論 あなたはここまで支配されている (朝日新書)
作者: 平和博
出版社/メーカー: 朝日新聞出版
発売日: 2019/02/13
メディア: 新書
この商品を含むブログを見る

Kindle版もあります。

悪のAI論 あなたはここまで支配されている (朝日新書)
作者: 平 和博
出版社/メーカー: 朝日新聞出版
発売日: 2019/02/13
メディア: Kindle版
この商品を含むブログを見る

内容(「BOOK」データベースより)
AIはすでに人類に牙をむいている!会話の盗聴、合成ポルノの自動生成、就職面接での不当評価、ビッグデータを使った世論の操作、キラーロボットの誤作動―現実に起きた事件から、身近に潜むAIの危険を暴く。AI依存社会に警鐘を鳴らす、画期的AIリスク入門。

 なんのかんの言っても、これからの時代を生きていくうえで、AIは、避けては通れないものです。
 監視社会とか、「AIの暴走による、『ターミネーター』みたいな未来予想図」のような想像もしてしまうのですが、正直、自分が悪いことをしなければ、「監視社会」のほうが安全で生きやすい可能性もあるのではないか、と思うこともあるんですよね。

 しかしながら、この本を読んでいると、そんな「まあ、それはそれで良いんじゃない?」というような楽観的な気分が、どんどん消えていきました。

 この本の冒頭で、AIによる行動パターン分析で「テロリスト」と認定されたベテランジャーナリスト、アフマド・ザイダンさんの受難が紹介されています。
 本人は、ジャーナリストという仕事上、取材源として、さまざまな重要人物の連絡先(テロリスト、とされる人も含む)を知っているのは当然のことだと述べているのですが、名指しで認定される、だけではなく、場合によっては、アメリカ軍のドローンで直接攻撃される、ということもあるのです。

 米国政府の情報機関に「テロリスト」認定される、ということは、「命の危険」を意味する。
 (テロリストだとの)嫌疑は、私の命を明白かつ差し迫った危険にさらすことになる。現状、多くの人々がこのようなフェイク情報の結果、命を落としていると考えられているのだから。

 特にパキスタンでは、オバマ政権によるドローンを使ったテロリスト掃討の空爆が活発化していた。

 ロンドンのNPO「調査報道ビューロー(BIJ)」の2014年の調査によると、2009年のオバマ政権発足から5年間で、パキスタン、イエメン、ソマリアへのドローン攻撃は390回以上に上り、2400人以上が死亡、うち民間人は少なくとも273人だったという。

 この中には、テロリストと誤認定された人々も含まれていた、と見られている。

 システム上、なるべく「本物」のテロリストを見逃さないようにすれば、「無実」の人々もテロリストと誤認定してしまう確率は高まる。逆に「無実」の人々を誤認定しないようにすれば、「本物」のテロリストを見逃す確率が高まる。この二つはトレードオフの関係だ。

「スカイネット」の機密文書によると、「アルカイダ幹部の連絡係」の検知システムでは、AIの精度を高めた結果、「本物」を見逃してしまう確率を50%とした場合、間違った人物を「連絡係」と認定してしまう確率は0.008%にまで抑えることができた、としている。

 だが「スカイネット」が扱ったパキスタンの携帯電話ユーザー5500万人から見ると、0.008%のエラーでも4400という規模の人々が「明白かつ差し迫った危険」にさらされることになる。

 ザイダン氏はこの騒動のあと、安全確保のためにパキスタンを離れ、ドローン攻撃の危険がないカタールのアルジャジーラ本社勤務になった、という。

 0.008%なら、そう簡単に自分が被害を受けることはないだろう、と考えてしまうのだけれど、5500万人と母集団が大きくなれば、4400人もの人が、間違って殺される可能性があるのです。

 その4400人のリスクは、テロリストに殺されるかもしれない大勢の人の命を考えれば「許容できる犠牲」だ、と言い切れるのかどうか。

 車の自動運転にしても、社会全体でみれば、「人間が運転するよりも、事故による死者を減らせる」のだとしても、実際に自動運転の車で犠牲になった人が、それを「仕方がない」と受け入れられるのは難しいですよね。

あわせて読みたい

「AI」の記事一覧へ

トピックス

ランキング

  1. 1

    小島慶子氏の旭日旗批判は筋違い

    和田政宗

  2. 2

    iPhone8~11 今買うべきはどれか

    S-MAX

  3. 3

    竹本氏にIT大臣ムリ 投資家断言

    内藤忍

  4. 4

    中国の無人コンビニが失敗した訳

    文春オンライン

  5. 5

    北の日本製レーダー 韓国に疑念

    NEWSポストセブン

  6. 6

    安倍政権下での改憲反対は言い訳

    小林よしのり

  7. 7

    日本車が変えたスリランカ象文化

    にしゃんた

  8. 8

    進次郎氏の美辞麗句で小池氏想起

    音喜多 駿(参議院議員 / 東京都選挙区)

  9. 9

    宮城県が安重根記念碑の看板撤去

    和田政宗

  10. 10

    日韓関係悪化は日本のチャンス

    NEXT MEDIA "Japan In-depth"

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。