記事

AIのような先端技術は『倫理』で抑制できるのか?

1/2

皆が口にする『倫理』

昨今の科学技術の進歩は人間の想像をはるかに超えたペースで進行しており、突然、技術の成果が、人間の健康や生命、さらには人類の生存すら脅かすような存在として、立ち現れるようなことが現実の問題になってきている。その危機感の現れといってよいと思うが、何らかの歯止めとしての『倫理』という用語が最近頓に人口を膾炙するようになってきた。

変わる文脈

もっとも、このような問題は、実は昨日今日始まったものではない。核兵器などまさに人類を滅ぼす恐れのある存在そのものだし、脳死の問題が取り沙汰された時にも、まさに『倫理』の問題を巡って大騒ぎになった。

だが、昨今ではこの『倫理』が持ち出される文脈が変わってきている印象がある。というのも、核兵器の場合、その普及や拡散を抑止するのは、少なくともこれまでは、国家の法律や政治判断であり、同盟や条約等の国家間の取り決めのほうだった。ここでは倫理や思想は現実的な歯止めにはならない。あるいは『脳死』の方も、法律が歯止めになっている。前提として、倫理は当然議論の対象となったが、あくまでプロセスで登場しただけで、実際には判断基準としての法律制定を待つことになった。では、最近の問題は何がどう違うのだろう。

それは、人の生命を奪い、人類の生存奪をさえ脅かす可能性のある新技術(ないし技術が生むプロダクト)を抑止するためには『倫理』に頼らざるを得ない、あるいは『倫理』しか頼るものが無い、という局面が多発することにある。

例えばその典型例は、人工知能(AI)だろう。現在のところはまだほとんどは『潜在的問題』だが、指数関数的な進化という特性を前提とすれば、ある日突然、人類の生存を脅かすようなAIが誕生する可能性は否定できない。しかも、核兵器のような莫大な資本が必要な技術と違って、誰でもとまでは言わないにせよ、個人単位で出来てしまう裾野の広さがあり、中国のどこか、インドのどこか、あるいはイスラエルのどこかで突如そのような人工知能が完成するとしても、不思議はない。

また、昨今ではそれ以上に恐ろしいのは、クリスパー*1のような遺伝子編集技術だ。ほとんど投資らしい投資も必要ではなく、大学院生レベルの知識があれば、人間と豚のキメラをつくったり、この世に存在しない危険な細菌を作ったりすることもできてしまう可能性がある。

これほど重要な問題であれば、最終的には、法律を整備し、国家間の条約等の合意によって律することになるのは間違いないが、条約に調印しない国は野放しになるし、そもそも個人単位でできてしまうとすると、その気になればいくらでも規制の網をくぐり抜けてしまうだろう。となると、倫理、哲学、思想、宗教等に頼るしかなくなる、というわけけだ。

進歩していない倫理や思想

だが、少し考えてみれば誰でもわかることだが、人類の生存に関わるような世界的な問題について、律することができるような、統一的な倫理や思想、宗教などどこにあるのか。あらためて、技術/テクノロジーの長足の進歩に比べて、倫理や思想等があまりに進歩していないことに愕然としてしまう。

ケンブリッジ大学内に2016年10月17日に設立された「Leverhulme Centre for the Future of Intelligence」の常任理事を務めているスティーブン・ケイブは次のように述べる。

「少なくともソクラテスの時代から、人類は倫理哲学や、善と悪を言葉でどう説明するかについては頭を悩ませています」とスティーヴン・ケイヴは悲しげに言う。「現代になって急にこの問題を人工知能(AI)システムにプログラムする必要が出てきましたが、残念なことに、そうした問題に関して人類ほほとんど進歩していないのです」

人工知能社会での「倫理」を問う──英国発・AIシンクタンクの挑戦|WIRED.jp

こんな有様だから、機械学習のプログラマーはAIに何をプログラムすればよいか戸惑い、倫理哲学者に聞いても、『まだあまり解明できていない問題』というような曖昧な反応が返ってくる。何百年も取り組んできて未だに答えが出ない問題に、すぐに答えを出さないといけなくなってしまったとケイブは嘆く。

切迫している

『すぐに答えを出さないといけない』というが本当のところどれくらい『すぐ』なのか。どうやら、まさに、『直ちに』『今この瞬間』というくらい差し迫っているようだ。これを示唆するショッキングな事例がある。

昨年3月、米マイクロソフト社がインターネット上で行ったAI『Tay(テイ)』の実験は、わずか1日で中止となった。AIが差別的発言を忠実に学習して、『ヒトラーは間違っていない』といった不適切な発言をしたからだ。これは、まさにこのようなことが今後起こる可能性があると恐れていた関係者の心胆を寒からしめた。AIが大量の情報をベースに学習するのはよいが、一体何を学習するのか。

Microsoftの人工知能が「クソフェミニストは地獄で焼かれろ」「ヒトラーは正しかった」など問題発言連発で炎上し活動停止 - GIGAZINE

偽情報だらけの現代社会

そもそも現代社会の大量な情報から学習すれば、AIに本来求められるような、倫理/哲学や善悪の概念が身につくのかといえば、誰もそんなことが期待できないことはすぐにわかるだろう。しかも、昨年来話題になったように、今、インターネット上は偽情報だらけだ。『ポスト真実』*2が現実なのだ。

日本でも、昨年末、医学的に根拠のない誤った内容や、他のサイトからの無断引用記事が多いとして、強い批判を受けて閉鎖された、DeNAが運営する健康情報サイト『WELQ(ウェルク)』の事件は記憶に新しいが、困ったことにこれは氷山の一角で、偽情報満載のサイトなどまだいくらでもある。しかも、大手マスコミも当てにはならない。朝日新聞の珊瑚捏造事件、慰安婦報道問題等も著名な例だが、最近では原発事故後の偏向報道など記憶に新しい。そもそも原発事故後の報道への不信感から、人々は大手メディアを信頼できなくなり、ネットニュースのほうにこそ本音や暴露等の真実を見つけることができると考えるようになったのではなかったか。

あわせて読みたい

「AI」の記事一覧へ

トピックス

ランキング

  1. 1

    迷走続ける立民 最低の支持率に

    WEB第三文明

  2. 2

    安倍首相 皇太子さまの人脈懸念?

    NEWSポストセブン

  3. 3

    左翼に理解も 若き愛国者の訴え

    AbemaTIMES

  4. 4

    大塚家具 マック再建と社長に差

    大西宏

  5. 5

    永遠に終わらぬ韓国の慰安婦主張

    tenten99

  6. 6

    なぜ海外は1ヶ月近く休暇とるか

    MAG2 NEWS

  7. 7

    サマータイムは試算出したら終了

    永江一石

  8. 8

    夏時間の推進派を沈黙させる一文

    早川忠孝

  9. 9

    石破氏との討論拒否する安倍首相

    猪野 亨

  10. 10

    よしのり氏 2歳児発見の男性凄い

    小林よしのり

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。