GoogleがAI兵器を開発しない約束を破棄

2018年のコミットメントを撤回

Googleの親会社であるAlphabet（アルファベット）は、AIを兵器システムや監視ツールに使用しないという公約を取り下げました。

2018年、アルファベットの最高経営責任者（CEO）であるSundar Pichaiは、同社の「AIの原則」をまとめたブログ記事を書き、その中で同社が追求しないAIの用途を列挙しました。

その中には、「全体的な危害を引き起こす、または引き起こす可能性のある技術」、「人への危害を引き起こす、または直接的に助長することを主な目的や実装とする 」兵器やその他の技術、「国際的に許容される規範に違反する 」監視に使用される技術が含まれていました。

しかし、最近更新された同社のAI原則では、このような意見は削除されています。この決定は、2月4日のブログ投稿で、アルファベットの研究、研究所、テクノロジー、社会担当シニアバイスプレジデントであるJames Manyikaと、Google DeepMindのCEO兼共同創設者であるDemis Hassabisによって擁護されました。

両氏は、次のように投稿しています。「2018年に初めてAI原則を発表して以来、テクノロジーは急速に進化しています。ますます複雑化する地政学的状況の中で、AIのリーダーシップをめぐって世界的な競争が起きています。私たちは、自由、平等、人権の尊重といった中核的価値観に導かれ、民主主義国家がAI開発をリードすべきだと信じています。そして、このような価値観を共有する企業、政府、組織は、人々を保護し、世界の成長を促進し、国家安全保障を支援するAIを創造するために協力すべきであると考えます。」

同社の新しいAI原則は、「その背景とともに」AIをイノベーションに使用し、責任を持って使用し、コラボレーションとして使用することに焦点を当てています。

2人は、同社が「当社の使命、当社の科学的重点、当社の専門分野に合致し、広く受け入れられている国際法と人権の原則に沿ったAIの研究と応用に引き続き注力する」と記しています。同社は、「具体的な製品ポリシー 」と、「当社のサービスの違法な使用などの禁止事項を含む 」明確な利用規約を継続するとしています。

Googleは、国際法や人権の原則を遵守し続けるとしていますが、AIの原則を水増しすることは、あからさまな軍事利用や監視目的でのAIの使用を許す抜け穴を作ることになります。

このニュースを受けて、ヒューマン・ライツ・ウォッチは、次のように書いています。「Googleは、兵器用のAIを作ることを拒否していたのに、国家安全保障ベンチャーを支援するAIを開発する意図を表明することに転換したことは明らかです。軍隊は戦争でAIを使用することが増えており、不完全または欠陥のあるデータや欠陥のある計算に依存すると、民間人への危害のリスクが高まっています。このようなデジタルツールは、生死に関わる可能性のある戦場の決定に対する説明責任を複雑にします。」

Demis Hassabisは2014年にGoogleに入社し、彼のAIスタートアップであるDeepMindを買収しました。2015年のWiredとのインタビューでは、買収の条件として、DeepMindの技術は軍事や監視の目的には決して使用されないと語っています。

新しいAI原則が発表される少し前、2023年10月7日のハマスによるイスラエル攻撃を受けて、Googleがイスラエル国防軍（IDF）と、国防省にクラウドコンピューティングとAI技術を提供することをめぐる報道が再燃しました。Al Jazeeraは、10月7日以降、62,614人のパレスチナ人と1,139人のイスラエル人が死亡したと推定しています。イスラエルとガザは、2025年1月15日に脆弱な停戦に達しました。

1月の報道では、Googleが防衛省を「直接」支援し、同社のVertex技術にアクセスさせたことなどが示唆されましたが、同社のAI技術が使われた正確な方法は共有されていません。同社はまた、イスラエル政府にクラウドサービスを提供する、2021年のNimbus契約も獲得しました。

イスラエル政府の国家サイバー局長であるGaby Portnoyは、昨年の会議で次のように述べました。「Nimbusパブリッククラウドのおかげで、戦闘中に驚異的なことが起こっており、これらのことが勝利に重要な役割を果たしています。詳細については、共有されていません。」

2023年11月の国連第1委員会では、参加国の大半が介入に賛成したにもかかわらず、米国、英国、イスラエルは、AIを搭載した兵器システムを制限する措置に反対しています。

米国では、マイクロソフトとAmazon Web Services（AWS）が長年にわたって国防総省と契約を結んでいます。また、両社は、イスラエル国防省やイスラエル国防軍とも協力していると報じられています。OpenAI、Anthropic、Metaなどの企業は、AI利用ポリシーの制限を撤廃し、2024年を通じて米国防総省や情報機関が自社の技術を利用できるようにしました。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。