OpenAI、監視活動および自律型兵器への懸念を受けDoDとのAI契約を修正へ

AnthropicはClaudeで同様の業務を拒否しサプライチェーンリスク指定されたことを受けて

物議を醸している米国防総省（DoD）との契約について、社内外からの反発が高まるなか、OpenAIのCEOであるサム・アルトマンは、契約内容を修正する方針を明らかにしました。

この対応は、米国政府が同社に対し、AIを大規模な国内監視や完全自律型兵器の支援に使用することを禁じる利用規約の変更を拒否したことを受け、競合のAnthropicをサプライチェーン上のリスクとして指定すると発表した後に行われました。

2/27の金曜日にAnthropicへのリスク指定が行われた直後、OpenAIは国防総省が運用する機密ネットワークに自社のAIモデルを導入する契約を締結したと発表しました。

アルトマンは当時、「私たちにとって最も重要な安全原則のうち二つは、国内での大規模監視の禁止と、自律型兵器システムを含む武力行使における人間の責任です」と述べました。また、「国防総省もこれらの原則に同意しており、法令や政策にも反映されています。そして私たちはそれらを契約内容にも盛り込みました」と説明しました。

しかし、Anthropicの禁止措置の直後にOpenAIが契約を急遽発表したことは、SNSでの反発や社内からの批判が起こり、監視や自律型兵器に関する契約文言が緩いと見られる点を指摘する声が多く上がりました。

アルトマンは3月3日、「金曜日に急いで発表すべきではなかった」と述べ、「問題は非常に複雑で、明確な説明が求められます。私たちは本当に事態を悪化させず、より深刻な結果を避けようとしていたのですが、見た目上は軽率で都合主義的に映ってしまったと思います」とコメントしています。

同社は、国防総省との契約をさらに修正する予定です。

契約には今後、次の内容が明記されます。「米国憲法修正第4条、1947年国家安全保障法、1978年FISA法を含む適用法に従い、本AIシステムは米国市民および米国国民の国内監視のために意図的に使用してはなりません。」「疑義を避けるために、国防総省はこの制限が、商業的に取得された個人情報や識別可能情報の入手・利用を通じて行われることを含め、米国市民や米国国民を故意に追跡、監視、モニタリングすることを禁止するものと理解しています。」

なお、今回の契約は国家安全保障局（NSA）による利用には適用されず、NSAが利用する場合は別途契約が必要になります。アルトマンはその可能性を否定していません。

同氏は「たとえ政府の命令であっても、それが憲法違反だと確信した場合には、従うよりも刑務所に行く方を選びます」と述べています。

自律型殺傷兵器については、OpenAIのサービスはクラウド上でのみ提供され、エッジ端末では利用できないため、自律型システムでの使用はないと説明しています。

今回の契約変更が認められた理由や、Anthropicの厳しいレッドラインが前例のない禁止措置につながったことについて、OpenAIは次のように述べました。「今回の契約は、当社の過去の契約を含め、従来よりも確実な保証と責任ある安全対策を提供していると考えています。我々のレッドラインはより実効性があると判断しました。なぜなら、展開はクラウド限定（エッジ端末では不可）で、安全性の仕組みが最適な形で機能し、機密保持資格を持つOpenAI担当者が常に関与する体制が維持されるからです。Anthropicがこの契約に至れなかった理由は不明ですが、彼らや他の研究機関もこの方法を検討してくれることを願っています。」

同社はまた、Anthropicがサプライチェーン上のリスクとして指定されるべきではないと考えているとしています。

この記事は海外Data Centre Dynamics発の記事をData Center Cafeが日本向けに抄訳したものです。