記事

たった500ドルで暗殺が可能に AI研究の第一人者が危惧する「ドローン兵器が人類を滅ぼす日」 「これは遠い将来の話ではありません」 - 「文藝春秋」編集部

「AIは核や生物兵器以上に、非常にパワフルで厄介なものになる可能性があります。もし今のまま無秩序に開発が進み、誰かがしくじればそこで人類は終わることもあり得る。しかしお互いの国境を尊重し、多くのいいアイディアをシェアできるグローバルな協定をAIに関して作ることができれば、誰もが劇的に幸せになれるのです」

 マサチューセッツ工科大学教授で理論物理学者のマックス・テグマーク氏はこう今後のAI開発について警鐘を鳴らす。テグマーク氏は2014年にAIの安全性を研究するべく、イーロン・マスク氏のサポートを得て「生命の未来研究所」を設立、17年に出版した『LIFE3.0』(紀伊国屋書店)はAIと人間の共存をテーマに未来の様々な可能性を探り、全米でベストセラーとなった。

 スティーブン・ホーキングは生前「この時代の最も重要な議論に参加したければ、テグマークの示唆に富む本を読めばいい」と同書を絶賛した。

マックス・テグマーク氏 ©大野和基

早急に「ドローン兵器の製造禁止」に踏み出すべき

 そのテグマーク氏が「文藝春秋」の独占インタビューに応じ、人類とAIの未来について、様々な論点を語りつくした。インタビューでテグマーク氏が「いますぐにでも行動を起こさなければならない」喫緊の課題として特に強調したのが「AIと軍事」の問題だ。

「2019年は『ドローンの脅威』が顕在化した年でした。9月、サウジアラビア東部のアブカイクとフライスにあるサウジアラムコの石油生産プラントを標的としたドローン攻撃が行われ、大規模な施設火災が発生。サウジアラビアの石油生産量が約半分に減少する事件が起きました。またイエメンでは1月に空軍基地で軍事パレードの開催中にドローンを使った攻撃があり、兵士6人が死亡する事件が起き、米国では6月に元ガールフレンドの家にドローンを使って爆弾を落とした男が逮捕されました。

 ドローン兵器のような自動兵器に対しては、その製造を国際的に禁止する協定を早急に結ぶ必要があります。そうしなければ、我々は近い将来、永久に後悔するでしょう」

 テグマーク氏がここまで危機感を募らせるのは、すでに自動兵器を作り出すだけのテクノロジーを人類が手にしているためだ。

「500万ドルで1万人を簡単に殺せる」

「もしあなたが、腹の立つ相手を殺したいと思ったら、iPhoneと同じくらいの価格の小さなドローンに相手の顔と位置情報を入力すればよい。それだけで誰にも知られることなく相手を殺害できます。

 このような自動兵器を作るだけのテクノロジーは既に我々の世界に存在しています。これから数年の内にその脅威について対策を打たないと、すべての大国が自動兵器を大量生産するクレイジーな軍拡競争に入る可能性すらあるでしょう。そうなればブラックマーケットで自動兵器が安価で手に入るようになるまでさほど時間はかからないはずです。

 もし500ドル程度の安価な自動兵器を1万個手に入れたテロリストが現れたらどうでしょうか。彼らはわずか500万ドルで狙った1万人を簡単に殺せるのです。そうなれば我々の社会は確実に不安定化します。これは遠い将来の話ではありません。今まさに我々が直面している非常に具体的なリスクなのです。AIによる自動兵器は『未来のカラシニコフ銃』になる可能性があるので、今すぐにでもその開発を禁止すべきなのです」

 こう訴えるテグマーク氏だが、人類とAIの可能性に必ずしも悲観的であるわけではない。AIには明るい未来を提供してくれる可能性もあると氏は続けた。「環境・エネルギー」「ヘルスケア」「教育」そして「経済」の分野で今後AIが果たすであろう劇的な役割、さらにAIが人類の知能を凌駕したとき、何が起きるのか。テグマーク氏の議論はこれからの「AI時代」を考えるうえでの羅針盤になるだろう。

 テグマーク氏のインタビュー「AIは核兵器以上に厄介になる」の全文は、「文藝春秋」2月号と「文藝春秋digital」に掲載されています。

※「文藝春秋」編集部は、ツイッターで記事の配信・情報発信を行っています。@gekkan_bunshun のフォローをお願いします。

(「文藝春秋」編集部/文藝春秋 2020年2月号)

あわせて読みたい

「AI」の記事一覧へ

トピックス

ランキング

  1. 1

    一斉休校にマスク2枚は科学的か

    やまもといちろう

  2. 2

    パチンコ屋は警察が閉店指示せよ

    水島宏明

  3. 3

    深刻な院内感染 緊急事態宣言を

    中村ゆきつぐ

  4. 4

    マスク配布は日本型対策の象徴

    篠田 英朗

  5. 5

    マスク配布案が通る国家の滑稽さ

    井戸まさえ

  6. 6

    小池知事をバッシングする愚かさ

    青山まさゆき

  7. 7

    マスクせず批判浴びた議員が本音

    山下雄平

  8. 8

    政府の布マスク配付は「良策」

    青山まさゆき

  9. 9

    俺の子産んで 志村さんが依頼か

    NEWSポストセブン

  10. 10

    コロナ名目で個人情報集める国家

    飯田香織

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。