記事

人気のアイドルや女優の動画も…アメリカでは対策の進む「ディープフェイク」、日本ではどうすべき?

 AI技術「ディープラーニング」を使ったフェイク情報、"ディープフェイク"が物議を醸している。

 Facebookのマーク・ザッカーバーグCEOが、あらゆる情報を収集・管理し、数十億もの人々をコントロールできるかのような話をしている映像がInstagramにアップされ、人々に大きな衝撃を与えた。しかしこれはイベント用に作られたディープフェイクで、喋っている内容も架空のものだった。さらに、トランプ大統領と思しき人物が「私がなぜこんなに人気者なのか教えてやるよ。それは頭が柔軟だからだよ、多分な」と話す動画。多少声に違和感があるために見破りやすいものの、これもディープフェイクだ。

 こうした技術を政治の文脈で応用・拡散させることでネガティブキャンペーンなどが容易に行えるようになってしまうため、アメリカでは規制の動きも出てきている。

米下院情報委員会のアダム・シフ委員長は「ハッキングよりさらに危険な“ディープフェイク”のような新しい技術が出てきた中で、2020年の大統領選を迎えなければならないが、我々は必要な対策ができていない」と警鐘を鳴らし、FacebookやTwitter、YouTubeを運営するGoogleなどに加工検知する技術の導入など、対応を要請する書簡を送っている。

 それだけではない。米バージニア州では今月、ディープフェイクを対象としたリベンジポルノ法が施行されているが、ポルノ映像の女性の顔を有名人にすげ替えた動画も作成されており、本物と見間違うほどのクオリティのものがアップされているサイトが複数存在しているのだ。日本でも、本人の許可を得ていないまま、人気のアイドルや女優のディープフェイクがネットで売買されているのが実情だ。

 IT分野の事件にも詳しい深澤諭史弁護士は「フェイクニュースであれば、言った内容が本当かどうかよく調べれば見破りようがある。しかし、ディープフェイクの場合、"そんなこと言ったって、ビデオでこう言ってるじゃんか"となり、内容ではなく、事実について反証しなければならないので、非常に難しく問題だ。騙す・騙されるで言えば、騙す方が有利。騙される方はどんな手で来ても対抗しないといけないし、いつも警戒していなければならない。いたちごっこの中で、常に不利な立場に置かれている」と指摘する。

 「ビットコインのマイニングもそうだが、ディープラーニングは計算量が膨大なので、そうした機材やソフトの開発もほとんどはアメリカが先進国で、まだ個人でディープフェイクを作るのは結構難しいと言われている。ただ、画像レベルなら個人が買えるようなソフトウェアで結構簡単に作ることができると思う。

例えば2階建ての建物を3階っぽくするだとかであれば数分の練習でできるようになるし、写り込んでいる人物を消して、その跡にそれっぽい背景が自動で合成されるといった機能もついている。、あた、アプリにアプリ自体の閉鎖について「どこの業者も非常に気を遣っている。こういうまずいものがあると基本的に閉鎖に動く。また、ディープフェイク専用アプリについては、閉鎖されたことでニュースとして取り上げられたのであって、他にも存在するかもしれない」。

 同様の問題としては、いわゆる写真のコラージュ、"アイコラ"があった。2005年には、女性タレントの顔写真とわいせつ画像を合成し、ネット上で公開し名誉棄損として逮捕された例がある。また、2009年にも、元彼女の顔を別の女性のヌードと合成したビラを元彼女の勤務先に貼ったとし名誉棄損で逮捕された例がある。

 これらの事例を踏まえ、深澤弁護士は「たとえばディープフェイクによってデマを流され名誉が毀損されたと主張することはできるが、ディープフェイクそのものを取り締まる法律は今のところないし、技術そのものや画像を作っただけで直ちに罪に問われるかというと、そうではない。もちろん程度によっては肖像権侵害になるが、これもあくまで民事であり、賠償金の問題。犯罪にはなるわけではない」と話す。

 「もちろんコピーして配れば別だが、基本的に見ただけで罪に問われたり、責任を問われることもない。また、人が心の中で何を思い浮かべようと自由なはずなので、誰にも見せずにディープフェイクを作っていた場合もほとんど内心と変わらない。例えば猛獣が逃げているというデマを拡散して逮捕されたケースがあるが、外部に公開することによって名誉権を侵害したり、は業務を妨害したりすれば取り締まることはできる。

しかし、誰にも見せない時点で取り締まるのは自由を制約し過ぎだし、仮に取り締まれる法律ができたとしても、捜査をする必要がある。そうなると"どうやらあいつはパソコンで夜な夜な何かやっている、ディープフェイクを持っているんじゃないか"と家宅捜索されてしまうことになる。つまり市民のプライバシーが侵されてしまう可能性もあることなので、とりあえず何でもガンガン取り締まればいいのかと言えばそうでもない、難しい話だ」。

 フリーアナウンサーの柴田阿弥は「女性だけでなく、誰でも被害者になってしまう可能性があると思う」、慶應義塾大学の若新雄純特任准教授は「告白するような動画を勝手に作るなどして、学校でのいじめの道具に使われてしまう可能性もあると思う。

政治家だって、これはディープフェイクですという反論をしている間に選挙期間が終わってしまった、というようなことになる可能性もある。これから学校現場でプログラミング教育が始まるが、人の財産や権利を脅かすことの危険性について、技術以上に教えなければ、もう規制しか無い、ということになってしまう」とコメントした。

 深澤弁護士も「私も教育が大事だと思う。ネット関連の事件で加害者側の弁護も数多くしてきたが、その中には子どもや若い人だけでなく、年齢の高い人も多い。むしろ生まれた時からネットがあったわけではなかったので、いわゆる"ネチケット"を学ぶ機会ががなかったことも原因だと思う。

やはり子どもだけでなく大人たちにも施さないと意味がない。所詮フェイクはそれだけでは成立せず、嘘を信じる人がいて初めてフェイクになる。どこまで広まるかを決めるのは天才的なプログラマーや悪人ではなく、私たちが決めること。一人ひとりが戦っていけば、根絶は難しくても、将来的に防止は可能になってくるのではないか」と話していた。

(AbemaTV/『AbemaPrime』より)

▶放送済み『AbemaPrime』は期間限定で無料配信中

あわせて読みたい

「フェイクニュース」の記事一覧へ

トピックス

ランキング

  1. 1

    元オウム死刑囚の帰依心消えた夜

    篠田博之

  2. 2

    中露側との連携に舵切った文政権

    赤池 まさあき

  3. 3

    石破氏「日韓の歴史を学ぶべき」

    石破茂

  4. 4

    日米を敵に回し北朝鮮選んだ韓国

    AbemaTIMES

  5. 5

    「GSOMIA報道は感情的」に反論

    小林よしのり

  6. 6

    韓国暴走か 日本は立場表明せよ

    音喜多 駿(参議院議員 / 東京都選挙区)

  7. 7

    GSOMIA破棄 米では日本批判なし

    NEXT MEDIA "Japan In-depth"

  8. 8

    ユニクロと無印良品の決定的違い

    PRESIDENT Online

  9. 9

    GSOMIA破棄 画策したのは中国か

    文春オンライン

  10. 10

    民主主義を取り戻せ 若者の挑戦

    たかまつなな

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。