記事

「芸能人200人がポルノ合成の餌食に」アイコラとは段違いのディープフェイクの怖さ

1/2

女性芸能人の顔写真を合成した偽のアダルト動画で、国内初の逮捕者が出た。ITジャーナリストの高橋暁子氏は「昔のアイドルコラージュとは比べものにならない高精度。ディープフェイクと呼ばれる動画は1年半で6倍に増えており、決してひとごとではない」という――。

ネットワークへの不正アクセス
※写真はイメージです - 写真=iStock.com/kuppa_rock

ディープフェイクで偽のアダルト動画、初の逮捕者

ディープフェイク動画をご存じだろうか。AIのディープラーニングとフェイクを足し合わせた造語だ。AI技術を使って別の画像を合成し、本人が出演した本物の動画と見分けがつかないほどそっくりな偽(フェイク)の動画のことだ。

この技術を悪用したとして、10月に国内初の逮捕者が出た。女性アイドルや女優の顔写真をアダルト動画に合成し、インターネット上で配信。名誉毀損と著作権法違反の疑いで男3人が警視庁などに逮捕された。

警視庁によると、被害に遭った女性芸能人らは約200人に上り、3500本以上のアダルト動画が見つかったという。芸能プロダクションなどが声明を出す事態になった。

実はこの被害は、一般人にも広がり始めている。ディープフェイク動画の実態とひとごとではないリスクについて解説したい。

偽動画をばらまかれた一般女性も

ディープフェイク動画というと新しく聞こえるが、言わば動くアイコラと言ってもいいだろう。顔をすげ替えられた画像を使ったアイコラ被害に遭った一般女性は多い。

ある20代女性は、たまたま見つけた友人からの連絡で、SNS上に自分のアイコラポルノ写真が掲載されていることに気づいた。

スマートフォンの画面を見る女性
※写真はイメージです - 写真=iStock.com/GCShutter

女性はすぐに削除依頼したものの、「あの画像がまだどこかに残っているかもしれないと考えると不安になる」という。

「色とか向きが不自然な写真だったから本物じゃないと気づいてもらえたけれど、自然だったら本人と思われて信じてもらえなかったかもしれない」

ディープフェイク動画は、目や口など表情や動きなども連動しており、本人と見間違うものが多い。ばらまかれたのがアイコラ写真だったから見破ることができたが、もしディープフェイク動画だったらどうだっただろうか。

冒頭でご紹介した例では名誉毀損罪などでの逮捕となったが、作成だけでは罪に問えないのが現状だ。

実際海外では、一般人を素材にしたディープフェイクポルノ動画が出回り始めている。あるオーストラリア人の20代女性は、10代だった8年前に検索しているときに自分のディープフェイクポルノ動画を発見。複数のポルノサイトに動画が投稿されていることに気づいたという。「誰が何のために投稿したのかはわからない。非常に傷ついたし、全部消せたとは思えない」

本物と見分けられないディープフェイク動画

有名本物と見分けられないディープフェイク動画なディープフェイク動画といえば、オバマ前大統領のものだろう。最後に俳優兼監督のジョーダン・ピールが現れ、ディープフェイク動画であることが明かされる動画を見たことがあるかもしれない。

動画内でオバマ前大統領は、「トランプ大統領はとんでもない間抜けだ(President Trump is a total and complete dipshit)」と、らしくないことを言っている。

「ディープフェイク」という言葉は、「深層学習(Deep learning)」と「偽物(fake)」を組み合わせたものだ。由来は2017年にさかのぼる。「Deepfakes」という名前のRedditユーザーが、エマ・ワトソンやケイティ・ペリーなどのハリウッド女優の合成ポルノ動画を公開したのだ。

日本での摘発例もそうだが、著名であれば声明を出して自分ではないと明らかにし名誉を守ることができる。しかし、無名の一般女性の場合はどうだろう。自分ではないと言っても信用されるかどうか。一般人である方が、甚大な名誉毀損被害につながる可能性さえあるのだ。

ディープフェイク攻撃で金銭被害

DeepTrace社の調査結果によると、2020年6月にネット上で確認されたディープフェイク動画は約4万9000件あり、18年12月の約8000件から6倍以上に大幅増加している。

映像が悪用された分野はエンターテインメント業界が60%以上ともっとも多く、96%がポルノ動画に合成された。国別では、米国が半数を占め、英国(10.9%)、韓国(9.6%)、インド(5%)、日本(4%)と続く。

政治系のディープフェイクは4%で割合こそ少ないが、悪用によって騒動になった例も少なくない。たとえばマレーシアでは2019年に、閣僚が違法の同性愛行為をしているフェイク動画を拡散されてしまった。動画の内容によっては信用を失墜させたり、冤罪を着せたり、株価を操作したりすることもできてしまうのだ。

ディープフェイク攻撃によって、金銭的被害も出ている。2019年3月、英国のエネルギー会社の最高経営責任者(CEO)が、ドイツの親会社のCEOからの電話による指示でハンガリーの企業口座に22万ユーロ(約2600万円)を送金した。

ところが、これはCEOではなく、ディープフェイクボイスともいうべき合成された声による犯罪者からの指示だったというわけだ。

ディープフェイク動画を作成する技術は、映画撮影などにも活用されている。しかし残念ながら、このように犯罪などに多く利用されてしまっているのが現状だ。

あわせて読みたい

「ディープフェイク」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    米タイム誌が評価した隈研吾氏の新国立競技場が「負の遺産」に

    渡邉裕二

    09月27日 09:00

  2. 2

    iPhone12 ProMaxからiPhone13 ProMaxに買い替えた結果

    永江一石

    09月27日 14:35

  3. 3

    不誠実な政治家は国民が生んだ?菅首相の弁論回避が合理的になった理由

    物江 潤

    09月27日 10:26

  4. 4

    コロナがもたらした「甘えの構造」

    ヒロ

    09月26日 13:06

  5. 5

    新型iPhone13シリーズが発売 AppleがLightningにこだわる理由

    S-MAX

    09月26日 14:36

  6. 6

    次の総理・世論調査 「立憲支持者も河野1位」の驚愕

    田中龍作

    09月27日 14:50

  7. 7

    共産主義・マルクス主義信奉を志位和夫委員長が改めて表明した心意気や良し。野党共闘はやはり「大異小同」だ

    音喜多 駿(参議院議員 / 東京都選挙区)

    09月26日 08:41

  8. 8

    生かしても地獄、潰しても地獄…中国・習近平が抱える「不動産問題」の深刻さ

    PRESIDENT Online

    09月26日 09:40

  9. 9

    感染者減少の理由が若者の深夜の繁華街の人流減少というのなら、その他の行動制限は外してください

    中村ゆきつぐ

    09月26日 08:14

  10. 10

    詐欺が増加する不動産取引 司法書士はリスクに見合う仕事なのか

    内藤忍

    09月27日 15:28

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。