記事

「AIと倫理」は企業の経営課題。 弁護士が強調する意味は

2/2

2. 国内外で「AIと倫理」を尊重する動き

「AIと倫理」を尊重する動きは、すでに国内外で始まっています。スライドに載せたのはあくまで一例で、ほかにもいろいろな動きがありますが、ここではスライドに書いたものを中心にみていきます。

先ほど、日本企業に「AIと倫理」の重要性を広めてほしいと欧州側が述べたと話しましたが、実は「AIと倫理」の問題に先鞭をつけたのは日本でした。

2016年5月の「伊勢志摩サミット」に先立ち高松市で行われた同年4月の情報通信大臣会合で、日本の総務省がAIの開発などの原則を策定して国際的に議論すべきだと提案し、各国の賛同を得ているのです。そこには、「AIと倫理」のテーマで語られている事項が含まれています。その後、2017年に総務省が「AI開発ガイドライン案」を、続いて2018年に「AI利活用原則案」をまとめ、それぞれOECDに提案しました。

国際的なAIに関する議論の流れは、ほかならぬ日本が作り出したのです。さらに、2018年12月には政府が「人間中心のAI社会原則」案を作り、翌2019年3月に確定してさらに議論が深まりつつあります(注:コロキアム後の2019年6月、日本を議長国として茨城県つくば市で行われたG20の貿易・デジタル経済大臣会合でも、AI原則などAIについて議論されました)。

日本を始め各国からの動きを受けたOECDは、AIに関する専門家会合(AIGO)を発足させ、原則をとりまとめ中です(注:コロキアム後の2019年5月に原則をまとめて公表しました)。


日本以外では、たとえばEUがハイレベル・エキスパート・グループ(AI HLEG)というAIの有識者による会合を立ち上げています。2018年12月に、その会合が「信頼できるAIのための倫理ガイドライン案」をまとめ、パブリックコメントを経て2019年4月にガイドラインとして確定しました。今後は、企業がガイドラインを守ってもらうための具体的な方法を1年かけて議論し、方策を打ち出すという段階に進んでいます。

企業にも動きが出てきた

「AIと倫理」の問題を意識し尊重しなければビジネスとして高いリスクを抱えることになると認識している企業は、「AIと倫理」に関する自社・企業グループのガイドラインや原則を作り始めています。さらには「AIと倫理」を含むAIに関するリスク対策のための特設部署を設置し、専門家と議論してリスクマネジメントに着手する企業も現れ始めています。



なかでも先進企業は、具体的な「AIと倫理」のビジネスへの組み込みの検討に着手し始めています。欧州は先進企業が各倫理項目の課題抽出などを始めており、プライバシーやデータの適正利用など自社にとって重要な項目を洗い出して対応する動きが加速しているようです。

たとえば自動車産業が盛んなドイツでは、安全性に重きを置いて対応している研究機関があります。また、車をサービスに使うという観点からは、データのセキュリティや個人情報保護などにも神経を使っているようです。

北米は、GAFA(Google、Amazon、Facebook、Apple)などニュースになりやすい企業が多く、「AIと倫理」の問題に対応せざるをえない状況となっています。政府側でも動きがあるのですが、企業や企業団体の議論が先行しているように感じられます。

日本でも、ただ単にAIに関するポリシーを作成してコーポレートサイト上で発信するというレベルを超えて、安全な製品を開発するために、どのように研究開発ステージで「AIと倫理」の問題を織り込んで作っていくかを考え始めた企業がすでに現れています。

これらの動きの大きなターニングポイントになったのは2018年でした。この年から国内外で、多くの企業がさまざまな動きを見せています。今後その動きがより加速するのは間違いないでしょう。やはり、「AIと倫理」の問題に対応していない企業は、抱えるリスクがどんどん大きくなっていきます。

3.「AIと倫理」について企業での取組が必要

以上をふまえて、最後のポイントである、「AIと倫理」は経営課題である以上、企業としてどう動くべきかという課題について述べます。


まず大切なのは、各ビジネスで一定の検討プロセスを踏むことです。すなわち、自社が取り組もうとしていることはなにか、その特性とはなにか、誰と組んでどのような製品・サービスをつくってどう売るのか、そのときのステークホルダーは誰か。こうした視点で事実を認識するのがスタート時のポイントです。

次に、それぞれのAIビジネスで重要となる倫理(価値観)を認識することです。先ほど、自動運転ではドイツに安全性を重視している機関があると述べました。自動運転との関係では、安全性やセキュリティなどが重要になります。これに対して、スコアレンディングを行うときには、ほかの倫理的要素の検討を行いつつも、平等ないし公平性の問題を検討することが大切になります。たとえば、金融機関が融資の可否を判断する場合、本来介在させてはいけないような不当な事実を理由に融資を断る、という差別的な行為は、それが人間が意図していなかったことだったとしても、確実に問題になります。

このように、手がけるそれぞれのAIビジネスの中でどの倫理(価値観)がどの程度重要かを確定します。そのとき日本や欧州などから提言されているガイドライン・原則等に基づいて、行おうとするAIビジネスについてのリスクの種類・内容・程度を把握し、対応策を立てることが大切です。

ただ、AIの場合には、対応策を立てづらいものもあります。たとえばブラックボックスなどの説明を要求されたときには、各種ガイドラインに定められている内容をもとに説明しようとしても、うまくいかないことがあるでしょう。その場合、「現状ではここまでは説明できる」というラインを確定することが重要です。

ちなみに、今はEUの倫理ガイドラインでこの点についての「ブラックボックスについて説明が困難ならデータのトレーサビリティや監査がどこまで可能か」などの指針が示されています。

日本の総務省の会議でも、こうした問題に配慮しつつ、対応可能な具体的な指針作りに取り組んでいるところです。

ここで重要なのは、これらすべての問題に対応しようとすると、社内のAIの開発ないしはサービスを売る部門、法務などの部門だけでは全然足りないことが多いということです。経営企画やリスクマネジメント、人事などのさまざまな視点を取り入れない限り、リスクの適切な認識や対応ができず、危機にさらされやすくなります。そして、必要な情報が適時適切に経営陣や監査部門に共有される仕組みがなければ、リスクの予防・対処が難しくなります。

AIは、結果の予測が容易な通常のシステムとは異なるものであるため、そのリスク予防・対処は欠かせないと思います。

ABEJAはこの春から「ABEJAコロキアム」を始めました。識者や実務家を講師に招き、記者や編集者たちが社会とテクノロジーの交差点にあるテーマを議論する「学びの場」です。第1回(2019年4月25日)のテーマは「広がるデータ規制 企業はデータとどう向きあうべきか」。本記事はその模様を編集しています。


三部裕幸(Hiroyuki Sanbe)/渥美坂井法律事務所・外国法共同事業 パートナー、弁護士・ニューヨーク州弁護士。総務省「AIネットワーク社会推進会議」AIガバナンス検討会メンバー。M&A・投資・証券発行・個人情報保護など幅広い企業法務を取り扱いながら、IoT・AI・Fintech などの最近のイノベーション分野に携わる。企業におけるAIに関する法的・倫理的リスクマネジメント全般をサポートし、社内体制づくりや個別のAIビジネスについても法的サービスを提供している。

取材・文・写真:山下 久猛 編集:川崎 絵美

あわせて読みたい

「AI」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    時代遅れの感が否めないほど低画質なサブチャンネル放送 NHKの五輪中継に苦言

    諌山裕

    07月31日 15:52

  2. 2

    バッハ高笑い!?東京五輪「やってよかった」が77%も!

    女性自身

    08月01日 08:42

  3. 3

    コロナはインフルエンザ程度?インフルエンザで死ぬかと思った24歳の時の話

    かさこ

    08月01日 09:14

  4. 4

    資格と能力は違う?資格や履歴書が充実していても使えない人材多い日本

    ヒロ

    08月01日 11:28

  5. 5

    次の総選挙結果は「与野党伯仲」ー〝真夏の白昼夢〟を見た/8-1

    赤松正雄

    08月01日 08:31

  6. 6

    感染者4000人超に マスコミは五輪報道からコロナによる医療崩壊報道に切り替えるべき

    早川忠孝

    07月31日 17:57

  7. 7

    どうして日本から敢えて海外移住するのか?

    内藤忍

    07月31日 11:03

  8. 8

    五輪の「祝賀モード」は選挙で政権に有利になるのか?減り続ける菅総理のポスターと自民党の焦り

    音喜多 駿(参議院議員 / 東京都選挙区)

    08月01日 11:04

  9. 9

    無法地帯になってきた空港と選手村 感染爆発が止まらないのも道理

    田中龍作

    07月31日 08:43

  10. 10

    新型コロナ感染者数が過去最多も 病院のひっ迫状況を強調するだけの尾身茂会長に苦言

    深谷隆司

    08月01日 17:19

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。