記事

ドイツのネットワーク執行法で変わったことと変わらないこと――違法なコンテンツの排除はネット上の発言をどう変えたか - 穂鷹知美 / 異文化間コミュニケーション

1/2

運用から3年たった今

ドイツでは、ソーシャルネットワーク(以下SNSと表記)上のヘイトスピーチや偽情報の急増を背景に、「ソーシャルネットワークにおける法執行を改善するための法律」が2017年に制定されました。本格的な運用から3年余りの歳月がたちましたが、この法律はどのような効果をSNS上や社会にもたらしたのでしょうか。また、運用後明らかになった課題などはあるのでしょうか。本稿では、このような素朴な疑問をもとに、この法律をとりまく現状やドイツ社会の変化について観察・考察してみます。

※この法律の邦語の略称として「SNS対策法」や「SNS法」という表記が使われる場合もありますが、本稿では「ネットワーク執行法」という表記を用います。

※本稿では現在のEUでの標準的な理解と用法に従い、「経済的な利益や意図的に人々を欺くためにつくりだされ、表示され、拡散される、偽と証明できる情報や誤解を招くような情報」である「(恣意的な)偽情報 disinformation」と、正しいと信じられることで、意図はされないものの拡散される「間違った情報 misinformation」を合わせた上位概念として、「偽情報」という表記を用いていきます(European Commission, Tackling online disinformation)。「フェイクニュース」という言葉で示される内容もここに含まれると認識し、本稿では「偽情報」という言葉で一括して表記しています。

ネットワーク執行法の概要と背景

まず法律の概要を説明します(法の内容の詳細や成立当初の諸論点については別稿参照。穂鷹「フェイクニュースに対する適切な対処法とは――ドイツのネットワーク執行法をめぐる議論https://synodos.jp/international/21812 」)。

ネットワーク執行法は、何かを新たに違法と定め禁止するのでなく、刑法で違法となるSNS上のコンテンツに対する処理をSNS事業者が確実に遂行するために、具体的な扱い方と義務化を定めた法律です。2017年10月1日に施行され、翌年1月から本格的な運用がはじまりました。

それまでも、違法なコンテンツ(内容)を速やかに削除し、閲覧できなくすることを、SNS事業者に課す法律はありました。しかし、効果がほとんどみられず、2015年の難民危機にあって、難民やそれを支援する人への排斥主義的なヘイトスピーチがSNS上で急増しました。2016年には、アメリカ大統領選期間中に拡散された偽情報の社会的影響力の大きさが(「フェイクニュース」として)問題視され、ヘイトスピーチや偽情報の規制を望む声が国民の間でも強まっていきました。このような状況下、SNS事業者の義務の履行を徹底させるため、改めて作成されたのがこの法律です。

具体的に加罰の対象となるコンテンツは、例えば侮辱罪(刑法185条)、悪評の流布罪(186条)、不実の誹謗罪(187条)、民衆扇動罪(130条1項、2項)などに該当するコンテンツです。ちなみに民衆扇動罪とは、ドイツでは「特定の集団や住民の一部に対して、公共の平穏を乱すのに適した態様で憎悪をかき立てること」(鈴木「ドイツのSNS対策法」2018、2頁)をさします。

ドイツ国内の登録利用者数が200万人以上の営利的SNS事業者に、具体的に以下のような義務が課せられることになりました。

・ドイツの刑法で違法(で処罰の対象)と疑われるコンテンツを、利用者が簡単に苦情として報告できるよう、苦情受付(報告)サイトを設置する。

・苦情報告を受けた後は、コンテンツを審査し、ドイツの刑法上明らかに違法なものは24時間以内、それ以外の違法情報についても7日以内に削除、あるいはドイツのIPアドレスをもつ人が閲覧できないようにアクセスをブロックする。

・年間100件以上の苦情報告を受けた対象事業者は、それらをどう処理したかについて、半年ごとに報告書を作成し、作成後一ヶ月以内に連邦官報および自身のウェブサイト上で公表する。

事業体が上記の義務を十分に行っていないと認められた場合は、最高5000万ユーロまでの過料が科せられることになりました。

アメリカのトランプ大統領のコンテンツへの対処との違い

この法律の特徴は、今年はじめのアメリカのトランプ元大統領に対するSNS事業者の措置と比較すると、理解しやすいかと思います。

アメリカでは1996年に、言論の自由を保障する憲法修正第1条を補強する「通信品位法第230条」が連邦議会で承認され、以後、利用者が公開したコンテンツについてプロバイダであるIT企業の免責を認められてきました。このため、SNS上にも利用者が発信するコンテンツがほとんど規制なく掲載されてきましたが、今年初めに議事堂襲撃事件が起きると、暴力を賛美するようなコンテンツが利用規定に違反するとして、大統領のアカウントを無期限凍結する措置がツイッターやフェイスブックなどSNS事業者で相次ぎました。

この措置に対しドイツのメルケル首相は、報道官を通じて批判しています。SNS事業者は憎悪や暴力と結びつかない政治的コミュニケーションの場をつくる責任があるが、言論の自由は基本的な権利で非常に重要であり、SNS企業指導部の決定でなされるべきではない。唯一、「国、つまり立法機関がその枠組み(範囲)を定めることが正し」く、法律に沿ったかたちで介入されるべきだ、というのがその理由でした(Merkel, Tagesschau, 2021)。

ドイツでは、判断や処理が公正に行われるようにするため、その判断の基準や処理の仕方といった枠組みを定める法が必要であり、処理について透明性を保つため、経過や状況についてSNS事業者が定期的に報告させることも重視します。もしも正しく処理されていないことがわかれば、国がすぐに介入できるようにするためです。SNSの言論空間の公正さが担保するために、このような法的しくみをもつことが不可欠と考えるのがメルケルの意見であり、ドイツのネットワーク執行法の主眼となります。

ただし上述のように、ドイツでもネットワーク執行法は、刑法で違法とみなされるコンテンツのみを対象にした処理の要請であり、ほかの偽情報は対象になりません。また、偽情報の拡散自体を取り締まるものでもありません。このため後述するように、ネットワーク執行法にひっかからない偽情報など、ほかのコンテンツ全般の処理は、事実上ドイツにおいてもSNS事業者に委ねられています。

ネットワーク執行法の運用状況

この法律に対しては、これまでSNS上の偽情報やヘイトスピーチを規制する手法として注目が集まった一方、批判する声も多くありました。

SNS事業者が高額な過料を科せられることへの恐れから迅速に処理するため、コンテンツを安易に削除する傾向が強まるのではないか(オーバーブロッキング)。法律ではSNS事業者の公平性・正当性が十分に担保されておらず、言論の自由が保証されず、萎縮効果が生じるのではないか、といったことが主な理由です。

国内の話だけでなく、独裁的な政治体制の国で、この法律を「模範」として法律が作られ、言論の自由の規制に拍車がかかるのではないか、という対外的な影響を危惧する意見もありました。総じて批判者たちは、ネットワーク施行法の運用によって、ヘイトスピートや偽情報の排除や抑制につながる可能性と、ソーシャルメディア上の言論の自由をなし崩し的に脅かす危険性を両天秤にかけ、後者の弊害のほうをより深刻にとらえる悲観的な評価を下していたようにみえます。

これに対し、実際の運用状況はどうなっているのでしょう。以下、今年2月17日に発表された政府の報告(Deutscher Bundestag, Antowrt, 2021)をもとにポイントをまとめてみます(ただし本文中、筆者が補足した部分も若干含まれます)。この文書は正確には、ネットワーク執行法の現状についての自由民主党(FDP)の質問に対する回答です。しかし、具体的な質問に沿って、政府が認識する今後の課題や検討中の事項と合わせて、法律運用状況が説明されており、法律をめぐる現在の状況が俯瞰できる内容となっています。

1.違法なコンテンツの処理状況

半年ごとに集計された主要なSNS事業者が受け付けたネットワーク執行法に関わるトータルの苦情件数と、そのなかで実際に処理(削除)されたコンテンツの割合(括弧内の%)を表にすると、以下のようになります。


2.審査方法

具体的な審査は、SNS事業者と、独立した自主規制機関の二箇所で行われています。通常の審査はSNS事業者のみで行い、SNS事業者だけでは判断が難しいと思われる件は、自主規制機関に相談するという二段階制です。

SNS事業者の審査は、数週間の専門的な研修を受けた常勤スタッフと数人の法律専門家が担当し、ネットワーク執行法の苦情としてだされたコンテンツはすべて、アルゴリズムではなく、人によってその違法性が検証されています。

自主規制機関は長らく設置されていませんでしたが、2020年3月に、Die Freiwillige Selbstkontrolle Multimedia-Diensteanbieter e. V. (FSM)が、ネットワーク執行法に対応した自主規制機関として初めて国からの認定を受け、以後、SNS事業者と協働しています。正確には、プラットフォーム事業者やFSMからも独立した法律専門家からなる独立した第三専門委員会がFSM組織内に、新たに50人の専門家からなる設置されています (FSM, Presse Partal, 2020)。

3.オーバーブロッキング問題

危惧されていたオーバーブロッキングはどのくらいおきているのでしょう。SNS事業者の報告書に、オーバーブロッキングがどのくらいおきているかを検証できる直接的なデータが提示されているわけではないので、明確な評価はできませんが(Bericht der Bundesregierung)、政府報告では、問題視されるようなことは起きていないという最終的な判断を示しています。

その根拠として重視されているのは、扱うものを刑法に違反するものと明確に定義し、判断に必要となる時間を考慮し、難しい案件には猶予をつけていたり、個別の処理の不手際があっても過料の対象とならないようにするなど、オーバーブロッキングを未然に防ぐことを配慮したメカニズムが法律のなかにあることです。

そして実際に、SNS事業者が、ネット執行法の違反があるとして苦情があったコンテンツで削除している割合が、多くても3割で1割以下の場合もあること、また、これまでネット執行法の苦情をめぐり(削除されたことを不服とする)訴訟が起きていないことを、オーバーブロッキングが起きていないことや、オーバーブロッキングが問題となっていない証拠としてあげています。

4.異議を申し立てる人の権利強化

とはいえ、侮辱や名誉毀損といった比較的判断が下しやすいコンテンツに比べ、風刺のたぐいは違法性の線引きが難しく、専門家が処理しても、処理に不満をもつ人は少なくないことも認めています。

このため、SNS事業者の削除などの処理に不服がある場合、今よりも異議を言いやすくするようにするしくみが必要だとします。SNS事業者が異議の手続きに一定の形式をつくり、異議については個別に改めて検討することなどが、将来的に改正案に盛り込まれる予定だとしています。

5.苦情についての対処

現行の法律でも、苦情受付のサイトをわかりやすく提示することを義務づけていますが、具体的な形式などを定めてはいません。このため事業者によっては、苦情の受付サイトがわかりにくかったり、あるいは、苦情申告の際に、ネットワーク執行法のどの条項に該当するのかを選択させるやり方をとるなど、一般の人に負担が大きいという問題がありました。

また、現行で義務化されている報告書だけでは、訴えた苦情が適切に処理されているかを知り得ないことも基本的な問題だとしています。このため法の改正案では、苦情をわかりやすく簡単にできるようにするためのより詳細の条件をつけたり、苦情の処理のプロセスの透明性を高める案が検討されているとします。

6.ほかのソーシャルメディアとの関連

大手のSNS事業者のコンテンツは、ネットワーク執行法や、SNS独自の利用者規定によって、違反するものへの監視が厳しくなっているため、問題となるようなコンテンツが表示されるのは難しくなりました。他方、削除やアカウントのブロックの処理を受けた利用者たちの間では、ほかの新興プラットフォームに移っていく人が増えるという新たな潮流も生まれています。

政府としては、そのようなネットワーク執行法の対象になっていないほかのプラットフォームにおいて、「急進主義的あるいは民衆扇動的な内容や殺しの脅迫などが広がっている」と認識し、観察しているとします。ただし、この対策としては、国内で対象とする事業者を広げるというやり方ではなく、EU全体で問題に取り組む方針で、現在EUで作成中の「デジタル・サービス法」(ネットワーク執行法とほぼ同じ方針で、EU全体を網羅する法律として2024年ごろの成立が目指されている)の専門委員会に働きかけており調整中であるとしています。

苦情件数が事業者によって異なる背景

以上が政府の報告内容の要旨ですが、報告で十分取り上げられていなかったり、わかりにくい点、また今後の課題について、わたしのほうから私見も含め以下、指摘してみます。

件数が3年間を通して圧倒的に多いのがツイッターです。このことはツイッターが現在のドイツで、政治的なコミュニケーション手段として最も多く利用されているSNSであることを象徴しているといえるでしょう。とはいえ、フェイスブックの苦情件数がほかのSNS事業者に比べ、2桁も離れて少ないことは腑に落ちない気がします。フェイスブックを利用するドイツ人が3000万人もいて、ドイツのSNS市場の3分の2を占めているときくとなおさらです。

この理由として二つのことが考えられます。まずSNS事業者がネット執行法にひっかかる前に、独自にコンテンツを大幅に処理している可能性です。SNS事業者は、ネット執行法とは無関係に、利用者に対し世界共通の独自の利用規定をもうけています(たとえば、フェイスブックでは「コミュニティ規定」と呼ばれているものがそれに当たります)。フェイスブックでは、ネット執行法の苦情に該当するような内容を、利用規定に照らし合わせて大幅に処理をしており、それによってネット執行法の苦情にあがってくることが少なくなっている可能性があります。

ただし、現行のネットワーク執行法では、事業者の利用規制に先んじて、ネット執行法を参照し判断することを義務化していないため、このような処理(利用規定を優先した処理)はフェイスブックに限ったことではありません。

もうひとつ有力な理由と考えられるのは、苦情受付サイトのわかりにくさです。端的に苦情が言いにくいことで、苦情報告件数が相対的に減っている可能性があります。例えばツイッターでは、コンテンツの画面上からすぐに苦情報告の画面にうつることができるようになっているのに対し、フェイスブックでは苦情サイトが「隠れている」と表現されるほどわかりにくい表示の仕方が批判されてきました。

ちなみに、連邦司法庁は、フェイスブックのこのような苦情対応の仕方について、SNS事業者としての義務を十分遂行していないと判断し、2019年7月に200万ユーロの過料を科しています(Rudl, Wie Facebook 2021)。

苦情のコンテンツ

ネットワーク執行法に触れる内容として苦情報告された内容は、SNSによって若干、割合が異なりますが、全般に、民衆扇動罪や侮辱罪にあたるとして訴えられているものが多くなっています。

例えば2020年前期の発表では、ツイッターの76万5717件の苦情報告のうち、一番多い苦情が民衆扇動(20万926件)、フェイスブックでは苦情4292件のうち、侮辱罪にあたると訴えられたものが一番多く(2330件)、民衆扇動罪(1697件)と名誉毀損(1677件)がほぼ同じほどで次に並びました。ティックトックでも、侮辱罪にあたるとして訴えられていたものが最も多くなっていました(14万1830件) (Pekel, Moderationsberichte, 2020)。

利用規定に合わせた削除件数

利用規定に合わせて処理されているコンテンツは、ネットワーク執行法によって処理されるコンテンツに比べ、実際はどのくらい多いのでしょう。SNS事業者がそれぞれの利用規定に合せて消去したコンテンツについては報告の義務がないため全貌はわかりませんが、ユーチューブに関しては独自に世界とドイツ国内の利用規定により消去したコンテンツの統計を発表しています。

これによると、ユーチューブでは、利用規定に即して世界全体で2020年4月から6月に1140万件、7月から9月には787万件、10月~12月は、932万件のビデオを消去しています。ちなみに、そのなかで、偽情報に該当すると思われるコンテンツ(詐欺や誤解を招く内容と判断され削除されたもの)の割合は、4月から6月が28.3%、7月から9月が25.5%、10月から12月は、15.5%でした。

ビデオに付随したコメントで消された総件数はビデオよりはるかに多く、これらの過半数以上が詐欺や誤解を招くコンテンツ(以下の括弧内の%)でした。4月から6月のコメント削除件数は21億3237万件(52.8%)、7月から9月は、11億403万(51.4%)、10月から12月では、9億620万件(50.8%)でした(YouTube-Community-Richtlinien)。

ドイツ国内の2020年7月から12月において、ネットワーク執行法と利用規定それぞれに基づいて削除されたコンテンツ(ビデオとコメント)の数を比較すると以下のようになります (YouTube, Entfernungen) 。

あわせて読みたい

「SNS」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    森ゆうこ議員「北朝鮮にワクチンを提供せよ」立憲民主党の驚愕の外交センス

    音喜多 駿(参議院議員 / 東京都選挙区)

    06月12日 08:49

  2. 2

    コロナ不況で住宅ローンが返せない人急増 持ち家の売却は急いだほうがいい理由

    NEWSポストセブン

    06月12日 09:41

  3. 3

    ひろゆき氏、電話不要論を展開「若い人が嫌がるのは当然」 職場の“TELハラ”問題

    ABEMA TIMES

    06月12日 14:22

  4. 4

    経済大打撃の日本 政府はいますぐ「消費税ゼロ」と「粗利補償」を実施せよ

    田原総一朗

    06月11日 12:16

  5. 5

    部分的に集団免疫が発動したという論文も ワクチン接種拡大でゴールは近いか

    中村ゆきつぐ

    06月12日 08:25

  6. 6

    「常識外れの賠償は却下に」文在寅大統領には徴用工問題を解決する責任がある

    PRESIDENT Online

    06月12日 10:36

  7. 7

    「日本が気にするのはお金、メンツ、総選挙だけ」イギリスが疑問視する東京五輪開催

    小林恭子

    06月11日 11:39

  8. 8

    「社説で五輪中止を求めるのにスポンサーは継続」朝日新聞が信頼を失った根本原因

    PRESIDENT Online

    06月11日 10:55

  9. 9

    人生を変える一番簡単な方法は「付き合う人を変えること」

    内藤忍

    06月11日 11:28

  10. 10

    支持率は37%に激減…それでも五輪に突き進む“菅政権のホンネ” - 広野 真嗣

    文春オンライン

    06月12日 09:55

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。