記事

ヤフー、最短1秒以内に不適切な投稿を分析できるAI技術 NewsPicksなど3社が導入



ヤフー株式会社(Yahoo! JAPAN)は5月19日、株式会社ニューズピックスなど3社が提供するサービスに、「Yahoo!ニュース コメント」の健全化を目的に導入している「深層学習を用いた自然言語処理モデル(AI)」を利用して、コメントを評価する技術のAPIが導入されたと発表した。日本経済新聞の報道によると、本AI技術はコメントの内容が適切か最短1秒以内で分析できるという。

ヤフーが提供する「Yahoo!ニュース」では、専門チームによる人的なパトロールに加え、自社で開発した本AI技術を利用して、誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど、不適切な投稿に対策を講じている。

2018年からは、本AI技術により「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示するヤフー独自の技術「建設的コメント順位付けモデル」を取り入れた。

今回、ヤフーが提供開始したのは「建設的コメント順位付けモデル」の技術だ。ニューズピックスらサービス事業者は、AI開発に必要となる大量の学習データや計算コストなどの初期投資をかけずに、本AI技術を利用してコメント健全化対策を開始できる。なお、本AI技術は複数の特許を出願中という。

NewsPicksなど「規約違反発言などを積極的に対処」

株式会社ニューズピックスが運営する「NewsPicks」、株式会社ゼンダーが運営する「攻略大百科」株式会社インタースペースが運営する「ママスタコミュニティ」の3サービスが本AI技術を導入し、コメント欄の健全化のために活用する。

それぞれ本AI技術の活用方法は以下のとおり。

  • 「NewsPicks」:本AI技術を利用規約に反する発言の発見補助として活用する。
  • 「攻略大百科」:「おすすめ順」タブを作り、本AI技術によりスコアの良いコメントを優先的に表示する。
  • 「ママスタコミュニティ」:人的パトロールによるコメント監視の際、不適切な内容に対する検知精度向上のため、本AI技術が算出したスコアを使用する。

「NewsPicks」トップページより

ニューズピックスは「『NewsPicks』のコメント欄は独自のアルゴリズムで運営しており、自由な言論空間を確保しながら健全なコミュニティ作りを図っています。今後も、より健全なプラットフォーム運営を目指すために、誹謗(ひぼう)中傷などの規約違反発言などを積極的に対処し、より心理的安全性を向上させていく必要があると考えています」とコメント。

「攻略大百科」トップページより(※著作権の関係上、一部モザイク加工を施しています)

ゼンダーは「『攻略大百科』が提供するゲーム攻略記事をきっかけに、多くのユーザーによるさまざまな意見がコメント欄で活発にやりとりされています。しかしながらコメントが盛り上がりその数が増えるほど、有益な情報が埋もれてしまうという問題がありました。『Yahoo!ニュース』のAI技術を活用することで、ユーザーが有益な情報を見つけやすくなり、ゲームをより楽しむきっかけとなることを期待しています」と語る。

「ママスタコミュニティ」トップページより

インタースペースは「『ママスタコミュニティ』では、ユーザーに対して安心・安全にサービスをご利用いただくために、以前より『不適切な内容の投稿をいち早く特定し、適切な対策を講じていきたい』という課題がありました。今回AI技術を導入することにより、精度の高い、スピード感を持った対策・対応が可能となることを期待し、今後もサービスの健全化を推進していきます」と述べる。

ヤフーは今後もさまざまな投稿系サービス事業者が本AI技術を順次導入予定と明らかにしている。

>>日本経済新聞による報道

>>ニュースリリース

上代 瑠偉 by 上代 瑠偉 1997年生まれ。
大学在学中からASCII.jp編集部に所属し、編集者・ライターとして2年半活動。2020年8月からLedge.ai編集部に。趣味は映画鑑賞、読書、グルメなど。これまでに観た映画は1500本以上。

あわせて読みたい

「AI」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    格安スマホ業界にまで波及した価格破壊

    自由人

    06月19日 08:14

  2. 2

    河井克行氏に「実刑判決(懲役3年)」の衝撃。もらう側の罪は?そして自民党の責任は

    音喜多 駿(参議院議員 / 東京都選挙区)

    06月19日 08:26

  3. 3

    山尾議員 突然の政界引退に疑問続出「説明責任果たしてない」

    女性自身

    06月18日 22:10

  4. 4

    “酒類の提供19時まで”の制限に議員から厳しい声「居酒屋やバーにとっては休業要請」

    BLOGOS しらべる部

    06月18日 19:42

  5. 5

    スシロー、くら寿司、はま寿司の海外戦略 "日本食ブーム"の海外市場が秘める可能性

    三輪大輔

    06月18日 10:38

  6. 6

    なぜクマが大量出没するようになったのか? 「エサ不足」ではない本当の理由

    文春オンライン

    06月18日 14:37

  7. 7

    少子化高齢化問題に悩む中国 「日本の経験を中国に伝えるのは意義がある」舛添要一氏

    舛添要一

    06月19日 10:36

  8. 8

    ワクチン供与と、国際的な情報戦と韓国外交の茶番劇

    佐藤正久

    06月18日 08:21

  9. 9

    山尾志桜里議員引退へ。悪い意味での「職業政治家」ばかりの永田町の景色は変わるのか

    音喜多 駿(参議院議員 / 東京都選挙区)

    06月18日 10:10

  10. 10

    私が日本の経済財政再建のヒントはルワンダの過去にあると思う理由

    宇佐美典也

    06月18日 12:00

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。