記事

アップルiPhoneで子どもの「裸の自画撮り被害」をAIで防止

画像はぱくたそより

株式会社ドリーム・トレイン・インターネットは2月16日、通信サービス「トーンモバイル」において、人工知能(AI)を活用することで、iPhoneの標準カメラでの「自画撮り被害」を防止する「TONEカメラ (for iPhone)」を発表した。


東京都都民安全推進本部によると、自画撮り被害とは「だまされたり、脅されたりして18歳未満の子供が自分の裸体等を撮影させられたうえ、メール等で送らされる被害」を指す。

同サイトでは、「SNSで親しくなった人を信じて裸の画像を送ったら、ネット上で公開されてしまった」「『画像をアップするぞ』とおどされ、呼び出されてひどい目にあった」などという被害事例があると書かれている。

今回、同社が発表した「TONEカメラ (for iPhone)」では、iPhone標準カメラやそのほかのカメラアプリに対応し、自画撮り被害の抑止を目的として、裸やそれに近い服装など、撮影時にAIが不適切な画像と判定した場合には、シャッターを切る、もしくはスクリーンショットした際に、画像が本体および各種クラウドサービスに保存されなくなる。本機能ではオンデバイスAI技術を採用しており、AIでの判断は端末本体で処理されるので、プライバシーは守られるという。

また、「TONE見守り」と連携し、子どもが「TONEカメラ (for iPhone)」で不適切な画像を撮影した場合、保護者の見守りアプリで通知を受け取ることも可能。通知内容には「日時」「モザイクされたサムネイル」「位置情報」が含まれる。見守り端末へ通知される不適切画像は、その通知のみで使用し、撮影端末や見守り端末、サーバーのどこにも保存されないとのこと。

コロナ禍は不適切画像・動画撮影の検知数が増加

ドリーム・トレイン・インターネットが開発した家族向け見守りサービス「あんしんAI」の利用データをもとに、コロナ禍の自粛生活や長期休暇によるスマホ利用環境の変化を調査したところ、4〜5月の自粛生活や夏休み、冬休みなどの長期休みにおいて、不適切画像・動画撮影の検知数が増加しているとわかった。

さらに、昨今では、ポルノ被害と性暴力を考えるNPO法人が、アップルとグーグルに対して、スマホの標準機能として、性的な画像を撮影させないAIを搭載することを要望しようとしているなど、スマホに保存された画像による性被害は技術的な対策が求められている状況と言える。

ドリーム・トレイン・インターネットはこのような状況を受け、2度目の緊急事態宣言による自粛生活や、春休みを迎えるにあたり、子どものスマホ利用環境問題への緊急対応として、「TONEカメラ (for iPhone)」を発表したとしている。

>>ニュースリリース

子どもの「裸の自画撮り被害」をAIで防止する格安スマホが発売

ドリーム・トレイン・インターネットは2020年2月20日、AIによって裸などの自画撮り被害を防ぐカメラを搭載したスマホ「TONE e20」を発売している。詳細は以下の記事をチェックしてほしい。

あわせて読みたい

「スマートフォン」の記事一覧へ

トピックス

  1. 一覧を見る

ランキング

  1. 1

    緊急事態宣言が延長へ 都民の恐怖心を煽る小池都知事の対応に苦言

    深谷隆司

    03月05日 17:44

  2. 2

    在宅勤務で気づいてしまった、通勤しただけで仕事やった感の勘違い

    かさこ

    03月06日 09:01

  3. 3

    菅総理と尾身先生の会見 結局東京が協力しなかったというお話し

    中村ゆきつぐ

    03月06日 08:18

  4. 4

    緊急事態宣言延長 全ては恐怖から そしてそれを創り上げたのは東京都とメディア

    中村ゆきつぐ

    03月05日 08:15

  5. 5

    「コロナ禍でも拡大戦略」アパホテルが怒涛の新規オープンを続ける理由

    PRESIDENT Online

    03月05日 16:27

  6. 6

    予算審議で拍子抜けするほど迫力不足だった野党の追及 国民からの批判を怖れたか

    石破茂

    03月05日 16:07

  7. 7

    世帯年収600~800万円のリアル「下の子が私立高校で家計が火の車」「贅沢はできないがひもじくもない」

    キャリコネニュース

    03月05日 09:24

  8. 8

    人類は風邪を根絶し得たことはない「ゼロコロナ」を目指す立憲民主党はムチャクチャ

    ABEMA TIMES

    03月05日 14:50

  9. 9

    小池百合子知事の耐え難い不誠実さ。公言した目標と「謝罪の言葉」はどこへ行ったのか

    音喜多 駿(参議院議員 / 東京都選挙区)

    03月06日 11:29

  10. 10

    湯水のようにばらまかれた資金 バブル崩壊の前に襲ってくるインフレという強敵

    澤上篤人

    03月05日 17:22

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。