IBM、汎用顔認識ツールの販売を停止

黒人男性ジョージ・フロイド氏の死に、抗議者らは警察の差別の中のITの役割を指摘

IBMは今後「汎用のIBM顔認識または分析ソフトウェア」の提供は行わない、と同社のCEO Arvind Krishna氏は議会へ宛てた書簡で述べました。

米国各都市では、抗議活動の激化と共に警察による冷酷な取り締まりに直面する中、IBMは「他ベンダーが提供する顔認識技術を含み、大量監視、人種プロファイリング、基本的人権や自由の侵害、あるいは我々の価値観や信頼性と透明性の原則に一致しないいかなる目的での使用は断固反対し、容認しない。」と述べています。

「汎用」の意味、および今後カスタマイズソリューションは販売を継続されるのか?について明確にするため、DCDは同社に確認を取っています。

曖昧な場合の重要なステップ

1月に同社の経営を引き継いだKrishna氏は、「今こそ、国内の法執行機関が顔認識技術を採用すべきかどうか、またどのように採用すべきかについて、国民対話を始める時だと考えている。」と、語っていました

「人工知能は、法執行機関が市民を安全に保つのに役立つ強力なツールだ。しかし、Alシステムのベンダーと利用者は、特に法執行機関で使用される場合において、Alのバイアス(偏見)に関するテストを確認する共有責任があり、そのようなバイアステストは監査され報告されるべきだ。」

顔認識ツールは、世界中の法執行機関での利用が多くなってきており、結果はまちまちです。法制度はしばしば偏見に染まっていることがあり、犯罪データベースで使用されるデータセットはその偏見を反映します。2019年12月のアメリカ国立標準技術研究所(NIST)の調査では、「現在の顔認識アルゴリズムの大部分において、人口統計学上の差異において精度のばらつきが存在するとの経験的証拠」が見つかったと述べられています。

‐ shutterstock

Amazonが人材採用の際の支援として、人工知能システムを構築しようとした際にも同様の問題を発見しました。既存の採用データベースを使い訓練されたこのシステムは、女性よりも男性の方に高い重みを付けました。

同社はまた、独自の顔認識サービスであるRekognitionへの苦情にも直面しています。ある研究として、アメリカ市民自由連合(ACLU)がRekognitionを使用して、議会の28人のメンバーの写真を一般に公開されているマグショット(犯罪容疑者の顔写真)と照合しました。「私たちのテストでは、Rekognitionの誤った一致のほぼ40%が有色人種であった。」とACLUの弁護士であるJacob Snow氏は述べていました。「有色人種はすでに警察の慣行によって過度に危害を加えられており、Rekognitionがそれをいかに悪化させるかは容易にわかる。」このシステムは全米の法執行機関に向けて販売されています。

さらに憂慮すべきことに、今年の初めにOneZero(メディア)は警察に監視サービスを提供するBanjoのCEOがかつてKKKのリーダーがシナゴーグ( ユダヤ教の会堂 )を銃撃するのを手伝っていたことを突き止めました。そのニュースが発表された後に、Damien Patton氏は同社を辞任しました。

同様のシステムは今日も使用されていると考えられており、全米のBlack Lives Matter(BLM)の抗議者たちに権力をふるっています。2015年、警察の拘束下でのFreddie Gray氏の死に対し、ボルチモアで抗議行動が起こりました。警察は、CIAの投資部門In-Q-Telが支援する会社Geofeediaを使い、未執行の逮捕令状を持つ抗議者を特定し、逮捕しました。

英国では、ロンドン警視庁はロンドンで何度も顔認識システムを裁判で使いました。2016年から2018年に掛けて、システムが特定した潜在的な犯罪者の90%以上が誤っていました。

この3月のオックスフォードサーカスでの裁判でも、誤って特定された無実の市民が7人逮捕されています。

Data Center Dynamics

原文はこちら

Comments are closed.