Amazon、警察への顔認識技術の提供を1年間停止

Amazonは顔認識ツールの警察への販売を1年間停止するとし、議会がその期間に(適切な)規則や規制の施行を望む、と述べています。

全米を中心にBlack Lives Matter(BLM)の抗議活動が広まる中、先日IBMが汎用顔認識システムの販売を完全に中止し、今回はそれに続く動きとなります。

既存契約への影響は明らかではありません、同社が「警察」に対しては、と具体的に述べているため、連邦政府機関に対しては引き続き提供される可能性があります。

「我々は警察に対し、Amazonの顔認識技術の1年間の利用停止を実施する。」とAmazonは声明を発表しました。

「私達は政府が顔認識技術を倫理的に使用するためにより強い規制を設けるべきであると主張していた、そして最近、議会はこの挑戦に取り組む準備ができているように見える。この一年間の停止が議会に適切なルールを策定するのに十分な時間を与えると願っている。我々は要請があれば支援する準備はできている。」

ポリシー変更の理由は明かにされていませんが、それはジョージ・フロイド氏の死に伴う抗議活動への対応であると思われます。

2018年に、アメリカ自由人権協会(ACLU)は、AmazonのRekognition顔認識ソフトウェアが人種的なバイアス(偏見)があったことを示すレポートを公開しました。この団体はAWSのツールを使い、議会の28人のメンバーの写真を、公開されているマグショット(犯罪容疑者の顔写真) と照合しました。 「私たちのテストでは、Rekognitionの誤った一致のほぼ40%が有色人種であった。」とACLUの弁護士であるJacob Snow氏は述べていました。

– shutterstock

「有色人種はすでに警察の慣行によって過度に危害を加えられており、Rekognitionがそれをいかに悪化させるかは容易にわかる。」

活動家は、調査結果を信用しないとするAmazonによる取り組みに直面しました。市販のAI製品のバイアス・パフォーマンスの結果を示すMIT Media Labのレポートに関し、Amazonは長い反論文書で「誤解を招く」とみなし、しかし同時に、同社はそれは存在していなかったと主張すべく、密かに問題の修正を行っていました。

MIT論文著者の1人のツイートでは、次のようなコメントがあります。「(Amazonは)AIフェアネスリードを雇い、PPB(Pilot Parliaments Benchmark: データセット)をより良くするために新たなAPIバージョンを開発&リリースし、マーケティング資料を刷新し、NSF( アメリカ国立科学財団:National Science Foundation) に資金を提供し、顔認識規制に対してロビイストを雇った。」

デボラ・ラージ研究員は更に次のように付け加えています。「同時に、Amazonは私たちと私たちの結果を信用を傷つけようとした。」

Amazonの株主は以前、Rekognitionの販売の制限を求める従業員主導の提案に反対票を投じていました。

このサービスは数え切れないほどの法執行機関に販売されており、そしてそれは、これら収益性の高い団体との関係性強化のための同社の協調した取り組みの一環で行われていました。

名目上はスマート・インターフォン製品とされているAmazon Ringは、実際には州の監視装置の一部として使用されています。同社は、捜査中にRing映像を利用ユーザに提示要求できるよう、1,300以上の地方警察と提携しています。「Ringはこれらの要求を容易にし、映像や情報を地元警察と共有するためにはユーザの同意が必要である。」と広報担当者はDCDに述べています。

また、付属アプリのNeighborsも製品に付属しています。このアプリは、住人の「疑わしい」挙動の報告に使われていますが、それは多くの場合、肌の色に基づいています。

「無秩序な顔認識ツールの利用が脆弱なコミュニティに危害を加えるかもしれないことを、Amazonが認めた事は喜ぶべきことだ。」とElectronic Frontier Foundationはブログ投稿で述べています。「今こそ、Ringと警察によるパートナーシップの危険性を認め、警察の残虐行為に関する声明を支持する時がきたのです。」

Data Center Dynamics

原文はこちら