記事

「AIが“中立”は幻想」Twitter社の発表に波紋…AIに“偏見”が生まれた理由



 米Twitterは現地時間の21日、独自の調査でアルゴリズムを研究した結果、右派の政党に関連したツイートについて、左派からのツイートよりも増幅しがちだとわかったと述べた。

【映像】Twitterのエンジニア AIの“偏見”助長に「原因わからない」(4分ごろ〜)

 Twitter社は世界7カ国の政治家によるツイートやニュースメディアのコンテンツを調査。すると、自社の推奨アルゴリズムによって、右派のアカウントによるツイートが左派のツイートよりも増幅されていたという。つまり、右派のコンテンツほどアルゴリズムが“推す”傾向にあったとしている。



 現在Twitterでは、利用者のホーム画面に表示されるツイートについて、最新ツイートが上に表示される時系列順か、自社アルゴリズム順か利用者が選べるようになっている。AIの力を利用したアルゴリズム順では「トップツイート」や「おすすめツイート」を優先的に表示。知らないうちに目に止まりやすい構造になっている。

 Twitter社によると、7カ国中6カ国で、政治的右派がより増幅されている結果が出たという今回の調査。Twitter社は今年5月にも、サムネイルの切り出しシステムについて「黒人よりも白人を優先的に表示する問題を抱えている」と発表。AIは中立ではないのだろうか。



 ニュース番組に出演した桜美林大学教授でジャーナリストの平和博氏は「AIが“中立”は幻想だ」と語る。

「AIというのは、最初にたくさんのデータを読み込ませて、学習をしていきます。データはすでに世の中にあるデータで、世の中に何か“歪み”や“偏り”があれば、それもAIが学習します。そもそも“AIは中立”ではないんです」(平和博氏・以下同)

 この問題について、Twitter社のソフトウェアエンジニアリングディレクターのラマン・チョードリー氏は「それが『起きている』のは判明したが、なぜそうなるのかはわからない」とコメント。「ユーザーの意図による面もあり、プラットフォーム上の人々の行動による面もあるが、その原因はわからない」とした上で「ただこの情報を人々に共有することが重要だと考えた」と明かしている。

 右派のアカウントによるツイートが、Twitter社のAIにも影響を与えているのだろうか。平氏によると、トップツイートやおすすめツイートは「ユーザーの利用傾向が加味される」という。

「簡単に説明すると、Twitterの『おすすめのツイート』は、ユーザーがTwitterを見ている中で、たとえば見ている内容や、やりとりしている人などユーザーの利用傾向で機械的に判断しています。だから『この人のツイートならRTしてくれるんじゃないか』と判断したAIが優先して表示させるなど、ユーザーの利用傾向が加味されます」



 また、平氏は「Twitter社のアルゴリズムにも偏りがあり、Twitterの利用の仕方にも偏りがある」と話す。

「(東大の)鳥海教授の研究チームの発表によると保守派でもリベラル派でもない中間派 のTwitterのユーザーがよりリツイートするか調べた結果、リベラル派よりも保守派の方が3.6倍リツイートされていました。第一にTwitter社のアルゴリズムにもバイアス(偏り)があり、Twitterの利用の仕方にも一定の偏りがあって、それが相互作用を起こして、今回の結果になったのではないかと思います」

 AIの中で行われている“判断の仕組み”であって「外からでは分からない」と語った平氏。今後の検証について「AIに学習させたデータ、AIが吐き出した結果を見て判断していくことになるだろう」と述べる。

「今回は、Twitter社が保守派とリベラル派の“おすすめ”の度合いを研究したところ『やっぱり偏りがあるよね』といった結果が出ましたTwitter社のようにオープンにすることで、いろいろな人が『これちょっとおかしいよね』と判断していくことができます。Facebookの場合『怒り』のマークがついた投稿をアルゴリズムによってより拡散され、社内で把握しながら、きちんと対策をとっていなかったという内部文書が世界的な批判を浴びています。ソーシャルメディア全般に言えることですが、大規模なデータ、AIのアルゴリズムを使っているのであれば、オープンに、多くの人が検証できる形にしていくべきです」

 AIのアルゴリズムによる偏りは、私たちユーザーにどのような影響を与えるのだろうか。

「自分の好きな情報だけに囲まれてしまう“情報のたこ壺”、いわゆるフィルターバブルが起こります。それに気づかないままだと、どんどん視野が狭くなっていきます。Twitterは、ホーム画面の右上の星マークをタップすれば、アルゴリズムがおすすめしていない時系列順のタイムラインをチェックできます。ぜひアルゴリズムが関係していないタイムラインと見比べてください。ユーザーとして、アルゴリズム順と『ぜんぜん違うな』と理解しておくことが大切です」(『ABEMAヒルズ』より)

あわせて読みたい

「Twitter」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    毎日新聞記者の脅迫的取材 毎日新聞はジャーナリズムとは認められない

    和田政宗

    12月08日 12:52

  2. 2

    日本人が大好きな「両論併記」によって致命的な戦争が決定された――日米開戦80年目の真実 - フォーサイト編集部

    新潮社フォーサイト

    12月08日 09:47

  3. 3

    日大・田中英寿前理事長の逮捕で “ドンの宿敵” が権力闘争宣言!「彼は最低の人間」

    SmartFLASH

    12月08日 09:09

  4. 4

    今世紀中に追いつくことは不可能…日本のドラマが韓国ドラマに大きく差をつけられたワケ

    PRESIDENT Online

    12月08日 15:36

  5. 5

    ひろゆき氏、幼児教育に懐疑論「民間療法みたいなもの。やりたい人がやればいい」

    ABEMA TIMES

    12月08日 13:21

  6. 6

    大阪万博は「カジノ有りき」だが、それで正当化を狙ったものではない

    木曽崇

    12月08日 14:24

  7. 7

    【追悼 川柳川柳師匠】軍歌を歌い続け「戦争体験」を伝え続けたオンリーワンの落語家

    松田健次

    12月08日 09:00

  8. 8

    前澤友作さんら搭乗のソユーズロケットが打ち上げ

    ABEMA TIMES

    12月08日 17:17

  9. 9

    新卒の「大企業へ就職」は負け? 発展性の乏しい大企業で何を学ぶかが大事

    川北英隆

    12月08日 09:41

  10. 10

    冬のボーナス、明暗分かれる 「支給なし」は旅館・ホテルで5割超

    キャリコネニュース

    12月08日 14:31

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。