商業施設の裏側で動いていた顔解析システムの無意味さ

AI/IoT /

ある商業施設の防災センターにいたら、ときどきピーピーと警戒音が鳴り、そのたびに警備スタッフがモニターを確認している。何かと思って警備スタッフに聞いてみたら、要警戒客の来店を知らせるアラートとのことだった。

その商業施設内には、防犯カメラが多数設置されており、常時撮影しているほか、商業施設内で事件や迷惑行為が発生すると録画映像を確認して要警戒客を特定、顔写真を保存するとともに特徴抽出を行っている。そして、入り口に設置されているカメラで、要警戒客と同一人物と思われる人が来店を検知し、アラートが鳴る。そのアラートが発報されてから、モニターを確認すれば、「要警戒客の顔写真」「同一人物と思われる来店客の顔写真」「警戒理由」が確認できるようになっているそうだ。

そういえば、この防災センターには、防犯カメラの映像を表示するために、10面以上のモニターが並べられたコクピットが鎮座しているのだが、その前に人が座ってモニターを監視していることはほとんどない。書類仕事や打合せなどの別業務を行うなか、アラートが出るとモニターをチェックする程度だ。この商業施設には、週末になると多くの来店客が訪れるだけでなく、立体駐車場や屋上駐車場があるために、すべてを合わせると20近い出入り口が存在する。このすべてを確認しようと思えば、要警戒客の人相が頭にはいっている警備員を10人程度確保し、ローテーションを組んで常時コクピットに張り付く必要があるだろう。しかし、このシステムを使うことで、監視業務は片手間の作業になっている。

しかし、これを行うということは、この商業施設の来店した人すべては、ただ撮影されるだけではなく、顔の特徴量や姿勢、動作を解析されることになる。2017年に施工された「個人情報の保護に関する法律施行令」では、個人情報として取り扱われる「個人識別符号」について下記のように定義されている。

次に掲げる身体の特徴のいずれかを電子計算機の用に供するために変換した文字、番号、記号その他の符号であって、特定の個人を識別するに足りるものとして個人情報保護委員会規則で定める基準に適合するもの

イ 細胞から採取されたデオキシリボ核酸(別名DNA)を構成する塩基の配列

ロ 顔の骨格及び皮膚の色並びに目、鼻、口その他の顔の部位の位置及び形状によって定まる容貌

ハ 虹彩の表面の起伏により形成される線状の模様

ニ 発声の際の声帯の振動、声門の開閉並びに声道の形状及びその変化

ホ 歩行の際の姿勢及び両腕の動作、歩幅その他の歩行の態様

ヘ 手のひら又は手の甲若しくは指の皮下の静脈の分岐及び端点によって定まるその静脈の形状

ト 指紋又は掌紋

これによると、撮影だけであれば解釈の幅はあるが、顔の特徴抽出になれば、それは明確に個人識別符号であり、これをブラックリストとしてデータベース化を行うのであれば、個人情報保護法の義務対象となる。それどころか、不当な差別や偏見などの不利益が生じないように取扱に配慮を要する「要配慮個人情報」となる可能性もある。その場合は、取得段階で事前の本人同意が必要になるはずだが、ブラックリストへの登録のために個人情報の提供に同意する人間はいないだろう。

また、そもそもの話として、この商業施設にとって、このシステムが有用なのかとの実効性に疑問が残る。毎回クリアに顔の容貌を撮影できるわけではないなか、誤認識は一定以上の割合で残る。そのうえ、要警戒客だからといって毎回問題行動を起こすわけでもない。そのような蓋然性の低いデータをもとにして、予防措置として声がけや監視を行えば、逆にコストアップしてしまう。実際、その商業施設でも、数分に1回との頻度でアラートがなっていたが、警備員がモニターを確認しても、なんらかの対応を取ることはなかった。これでは、なんのためにアラートがなっているのか、ということになる。大して効果のないことのために、リーガル面でのリスクを抱えているように見えてしまう。

現在では、AIによって、酔っぱらいや転倒者を検知したり、不審行動の検知ができるようになってきており、個人情報に依存することなく、対処ができるようになりつつある。これまでのやり方としてのブラックリスト管理、それの自動化という観点だけでシステム化を考えるのではなく、改めて目的を明確にしたうえで、最善の対処法をゼロベースで検討していくべきではないだろうか。