「自画撮り被害」なる事件が年々増加しているそうだ。
東京都都民安全推進本部（外部サイト）によれば、自画撮り被害とは「だまされたり、脅されたりして18歳未満の子供が自分の裸体等を撮影させられたうえ、メール等で送らされる被害」を指す。
同サイトでは、「SNSで親しくなった人を信じて裸の画像を送ったら、ネット上で公開されてしまった」「『画像をアップするぞ』とおどされ、呼び出されてひどい目にあった」などという被害事例があると書かれている。
機械学習によって不適切な画像を規制・検出
そんななか、株式会社ドリーム・トレイン・インターネットが運営するトーンモバイルは2月14日、AIによって裸などの自画撮り被害を防ぐカメラを搭載したスマートフォン「TONE e20」の発売を発表した。発売日は2月20日で価格は1万9800円（税抜）。
TONE e20は、同社の既存端末と比べAI機能が大幅に向上した。なかでも、世界初とうたうAIフィルターを搭載した「TONEカメラ」が特徴的。
自画撮り被害の抑止を目的として、裸やそれに近い服装など撮影時にAIが不適切な画像と判定した場合には、シャッターを切る、もしくは動画を撮影していても、画像および動画が本体や各種クラウドサービスには保存されなくなる。
カメラだけではなく「動画撮影」でも判定されるのがポイントで、不適切な画像や映像を検出すると「撮影不可のアラート」が1～2秒間表示される（カメラモードでも同様のアラートが発生）。
また、不適切と判定された撮影があった場合には保護者に通知が送られる。通知内容には「日時」「モザイクされたサムネイル」「位置情報」が含まれる。なお、TONEカメラはオンデバイスAI技術を採用しているので、AIによる判断などは端末本体で処理されプライバシーは守られる。
発売するトーンモバイルは、「子どもの見守り機能」が充実していることに定評のあるブランド。スマホの使い過ぎを防いだり、居場所をいつでも確認できたりする。一部機種では、GPSを利用して場所ごとにアプリを使えなくする機能もある。これは、学校内でのスマホ使用を制限するときに活用できるという。
カメラがAIによって被写体を検出し、“いい感じ”の写真に仕上げてくれるスマホは数多いが、子ども向けのスマートフォンとしては比較的安価で防犯面を充実させた機種に人気が集まるのかもしれない。まぁ中高生からは「iPhoneじゃなきゃ嫌！」のような声は少なくないようだが……。
＞＞トーンモバイル
by 高橋 忠弥
ITデジタル系のウェブ・週刊誌編集者を経てレッジに。Googleアナリティクス個人認定資格所持。スマホはAndroid、PCはWindows、タブレットはiPad、カメラはオリンパス。三度の飯よりアイスコーヒー好き。満員のエレベーターは苦手。
