記事

Yahoo!ニュース、不適切なコメントをするアカウントをAIで13.5%減少

不適切な投稿を繰り返しているユーザーに掲出する、投稿時の注意メッセージ

ヤフー株式会社は2月16日、「Yahoo!ニュース」のコメント欄において、不適切なコメントを繰り返し投稿しているアカウントが、2020年7月からAIを活用して取り組んでいる投稿時の注意メッセージ掲出により、掲出直後と比較して13.5%減少したと発表した。

Yahoo!ニュースは、コメント欄の健全な言論空間を創出するため、専門チームによる人的なパトロールに加え、自社で開発した「深層学習を用いた自然言語処理モデル(AI)」を使い、誹謗中傷をはじめとする不適切な投稿を1日平均約2万件削除するなど、さまざまな対策を実施しているとのこと。

さらにYahoo!ニュースは2020年より、不適切な投稿の事前抑止にも注力しているという。同年7月には、パトロールに活用しているAI判定モデルを用いて「不適切である可能性が高い」と判定したコメントを過去数日以内に複数回投稿しているユーザーに対し、注意メッセージを掲出する取り組みを開始したとのこと。

Yahoo!ニュースは本取り組みの目的を、過去の投稿内容やこれから投稿するコメントの中に、乱暴な言葉づかいや他人を傷つける表現がないかなど、ユーザー自身にあらためて考えるきっかけを提供することだとしている。

実際、グラフを見ると、本取り組み開始直後の2020年8月と比較して、4カ月後の同年12月には、コメントを投稿したユーザー数が増加したのに対し、注意メッセージが掲出されたアカウント数は13.5%減少した。

左のグラフ:注意メッセージが掲出されたアカウント数(2020年8月と12月の比較)
右のグラフ:コメント欄における投稿ユーザー総数の日次平均

この結果から、本取り組みによって、不適切な投稿を繰り返すアカウントの減少に一定の効果があることがわかるとしている。

Yahoo!ニュースは今後も、コメント欄で投稿される多様な考えや意見によって、ユーザーがニュースに対する興味や多角的な視点を持つきっかけを提供するとともに、健全な言論空間を構築するために努めていくという。

>>ニュースリリース

あわせて読みたい

「Yahoo!」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    【119カ月目の新地町はいま】災害ごみ仮置き場に響く「五輪どころじゃない!」の叫び 10年目の大地震で聖火リレーコースも損傷

    鈴木博喜 (「民の声新聞」発行人)

    02月24日 09:28

  2. 2

    ZEROは0でない それをwithと言うと思いますが 立憲民主党はやはりPCR利益誘導?

    中村ゆきつぐ

    02月24日 06:49

  3. 3

    東浩紀「“自由”の制限でウイルス消えず…長期的ヴィジョンなき罰則強化は現実逃避」

    文春オンライン

    02月24日 07:27

  4. 4

    私がwithコロナではやっぱり飲食業界が厳しいと思う理由

    宇佐美典也

    02月24日 12:00

  5. 5

    「GAFA課税」は国際的な議論へ 導入しない理由はないと言える背景

    山内康一

    02月24日 14:32

  6. 6

    ビートたけしが若者に「スマホを手放す勇気を持て」と語る理由

    NEWSポストセブン

    02月24日 17:00

  7. 7

    なぜ、57歳母と24歳の息子は死んだのか〜「八尾市母子餓死事件」の調査のため、八尾市に〜の巻 - 雨宮処凛

    マガジン9

    02月24日 15:13

  8. 8

    日本で唯一車で走れる砂浜が一部通行止めに 地元からは「地域の宝、早く復旧して」の声

    BLOGOS しらべる部

    02月24日 16:49

  9. 9

    【読書感想】実録ブラック仕事体験記

    fujipon

    02月24日 10:35

  10. 10

    企業不祥事の発生は「必然」だが発覚は「偶然」である-小林化工事案の考察

    山口利昭

    02月24日 06:44

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。