記事

「撃たれやすい顔」への引き金を止める。AIが揺さぶる人の思い込み

1/2

死角から飛んできたボールは避けようがない。直撃されて脳と心が揺さぶられる。現代美術家・長谷川愛さんのアートプロジェクトを見た時の印象をたとえると、まさにこんな感じだ。科学技術をモチーフに、人のありようを浮き彫りにする。それらの軌跡と思いを2回に分けて紹介する。

人の偏った認知を「銃」が問い返す

2018年、長谷川さんは“Alt-Bias Gun”という作品を発表した。


このプロジェクトは人の偏った認知バイアスを機械学習等で学ばせ、逆張りもしくは別のバイアスを道具に実装し「公平な社会を目指す」その是非と方法について問います。私たちは一体どのようにそれをデザインし実装してゆくべきなのでしょうか?(中略)この銃は「非武装で警察に銃殺された黒人」の過去数年のデータから殺されやすい人を学習判別をし、条件にあった場合は銃の引き金を数秒止めます。(Ai Hasegawaより)

「バイアス」に疑問

この作品が生まれる背景になったのは、2014年に留学した米国で広がっていた社会運動“Black lives matter”でした。当時、銃を持たない丸腰の黒人男性が、警察官と出会った際に問答無用で撃たれて死亡する事態が頻発していました。「黒人は武器をもっているに違いない」という警官側のバイアス(偏見)が引き起こしたものだと、黒人への暴力や人種差別の撤廃を訴える動きが強まっていました。

バイアスを持っていたのは、人だけではありませんでした。

アメリカの司法では再犯率を割り出すアルゴリズムを使っていますが、過去の判例や質問の内容によっては黒人に厳しい再犯リスクの判定が出る傾向があるとされ、「マシンバイアス」と呼ばれています。中国でも犯罪者の顔の傾向をアルゴリズムで割り出そうとする研究が実施されていました。もし実用化されたら、無実なのに顔認証システムで“犯罪者顔”と判定されて不利益を被る人が出てくるのではないか、と思いました。

“Black lives matter”の広がりなどを受け、オバマ政権(当時)は警察官にボディカメラの装着と捜査中の撮影を義務づけた。しかし、裁判に証拠として提出されたカメラ映像は数割程度にとどまり、罪に問われる警察官は少なかった。

この問題にどう向き合うか考えていたころ、黒人男性が警察官に銃で撃たれて死亡した動画をSNSで偶然目にしました。車を停められ身分証明書を求められ、IDを取り出そうとした時に銃を取り出すと思われ、銃で撃たれたのです。もし彼がIDを探している間だけでも警官の銃の引き金がロックされていたら助かっていたかもしれない。

ヒントになったのは、『PSYCHO-PASS』というアニメ作品に出てくる武器「ドミネーター」でした。

ドミネーターは人に向けると、心理状態から反社会的行動をとるかどうか感知し、その数値の度合いで殺傷力の異なる弾丸を発射します。ドミネーターが「犯罪者」と認めない場合、引き金がロックされ撃つことができません。今のテクノロジーでも強制的にバイアスを補正し、引き金をロックする技術があってもいいのでは、と考えました。

警官から撃たれて亡くなった200人の犠牲者の顔データを集めてAIに学習させ、「撃たれやすい顔」を検知するモデルを「銃」につなげました。それに近い顔の人に銃を向けたとき、「あなたは、バイアスで反射的に殺そうとしているかもしれない」とアラートを出し、3秒間引き金をロックする。

それが“Alt Bias Gun”でした。

“あやまって殺す方も殺される方もうれしくない。この不幸を止めるためにこういった道具の導入は正しいのだろうか? どこで引き金を止めるのか? 引き金を止めずとも「バイアスで撃とうとしていませんか?」とアラートをだすだけでも、そこでもし効果的に死傷者の数が変わるのならばそれは公平なのだろうか?”(Ai Hasegawaより)

「正義」への問い直しが作品名を変えた

“Alt-Bias Gun”は初め“Anti-Bias Gun”と名付けていました。でもこのプロジェクトについて友人と議論してたとき「そもそも正しいバイアスってあるのか?という問いから始めないといけない」と指摘されました。「アンチ」の方がわかりやすくてキャッチーですが、「正義」は、ときに一方的で、全体主義のような事態を引き起こしてしまう可能性もあると思いました。「別の」バイアスを入れるという謙虚さが必要だと考え、“Alt-Bias Gun”にしました。

“Alt-Bias Gun”はまだ進化の過程にあるが、さらに考えを掘り下げていった結果、目指すべきは別の方向性だという。

殺される人の数を減らしたければ、そもそも銃のような、人を問答無用で殺傷する武器は作ったり使ったりしないようにすればいい。

もっと突き詰めれば、そもそも武器など必要のない社会を作ればいいというところにまで行き着きます。真に目指すべきはそちらの方向でしょう。だから、“Alt-Bias Gun”プロジェクトは未完成なのですが、私の中では答えが出てしまっているのです。


長谷川さんの作品は、見る人の心を揺さぶり、ザワつかせるものが多い。子ども時代に抱いていた思いが、表現の原点になっているという。

会社員の父と専業主婦の母、祖父と祖母、3人の姉弟の真ん中、という家庭に育ちました。幸せではあったけれど、田舎は基本的に保守的でしがらみも多い。しかも両親が保守的な宗教の信者で、不条理なことも言われ、生きづらさや苦しさを感じていました。

この息苦しさから解放されて自由になりたい。がんじがらめの状況で、のめり込んだのが、マンガやアニメ、SFの自由な世界観でした。高校時代にネットとつながると、画力向上を目指す漫画やアニメ好きが集う掲示板の常連になって、BL(ボーイズラブ)の漫画も描き始めました。いわゆる「腐女子」のオタクです。

同人活動をするくらい絵は好きだったのですが、周りを見て、自分には絵や漫画で食べていくほどの才能がないことは早々に自覚していたので、絵描きや漫画家になろうと思っていませんでした。

勉強はまったくしなかった。成績は最悪。私は大学は行かなくていいけど、弟は大学に行くべきだと思っていました。振り返ると本当に馬鹿らしい思い込みだと思いますが……。

将来を考えようにも、周りの女性たちはパートで働くか専業主婦ばかりでした。仕事を楽しむ女性はほとんど会えなかった。中学の頃は楽しい未来が全然想像できなくて、高校に入れなかったら尼になろうと思っていたくらいです。

高校卒業後はプログラミングを学ぼうかと考えていたころ、父が岐阜県立国際情報科学芸術アカデミー(通称 IAMAS)の情報を教えてくれました。県立で学費も安かったしプログラマーの勉強もできた。だけど私はプログラミングがまったく身につきませんでした。理数科目が苦手だったので、当然といえば当然なのですが。

あわせて読みたい

「人種差別」の記事一覧へ

トピックス

ランキング

  1. 1

    少年マガジンからグラビア奪うな

    倉持由香

  2. 2

    米国識者 GSOMIA破棄は「自害」

    高英起

  3. 3

    英軍の靖国参拝めぐる右派の誤解

    清 義明

  4. 4

    千葉悩ます倒木処理 識者が助言

    田中淳夫

  5. 5

    大谷がヒザ手術 二刀流は無理か

    幻冬舎plus

  6. 6

    前環境相「真意伝わっていない」

    原田義昭

  7. 7

    千葉のゴルフ場を悪者にする謎

    かさこ

  8. 8

    韓国政府の日本語サイトに苦言

    AbemaTIMES

  9. 9

    山本太郎氏を直撃 極左との関係

    文春オンライン

  10. 10

    議論から逃げる日本のリベラル

    青山まさゆき

ランキング一覧

ログイン

ログインするアカウントをお選びください。
以下のいずれかのアカウントでBLOGOSにログインすることができます。

コメントを書き込むには FacebookID、TwitterID のいずれかで認証を行う必要があります。

※livedoorIDでログインした場合、ご利用できるのはフォロー機能、マイページ機能、支持するボタンのみとなります。