ジャカルタ - OpenAIは、機密性の高い軍事ネットワークに人工知能(AI)モデルを提供するための国防総省との契約を締結したことを確認しました。この契約は、米国政府が今週、連邦機関におけるAnthropicのAI技術の使用を段階的に停止することを決定した後に行われました。
OpenAIのCEOであるサム・アルトマンは、この決定を擁護した。彼は、この動きは「光学」という観点から、公衆の認識から見ると物議を醸していることを認めた。しかし、彼はOpenAIが技術の悪用を防ぐために「安全スタック」と呼ばれる技術的なセキュリティシステムを準備したと強調した。
人間の選択と米国の政府政策の代替
この発表は、米国のドナルド・トランプ大統領が連邦政府の環境におけるAnthropic AIテクノロジーの使用を停止したことを発表した数時間後に発表されました。政府は、同社が軍の利用を制限する多くの制限を削除することを拒否したため、Anthropicと意見の相違があると伝えられています。
その後、国防総省はAnthropicを「サプライチェーンリスク」と定め、同社を事実上、継続的な協力のためのブラックリストに載せました。連邦機関でのAnthropicテクノロジーの使用を停止するプロセスは、6か月以内に完了する予定です。
OpenAIに加えて、イーロンマスクのAI企業であるxAIも重要な役割を果たしました。xAIのGrokモデルは、機密作戦で使用されることを許可されたと報告されています。Anthropicとは異なり、xAIは「すべての合法的な目的」のためにAIテクノロジーの使用に関する政府の基準を受け入れる用意があると評価されています。
「すべての合法的な目的」の項の論争
議論の中心は「すべての合法的な目的」という条項にあります。AnthropicのCEOであるDario Amodeiは以前、現在の規制はAIの潜在的な有害な影響を予測するには不十分であると主張していました。
相反に、OpenAIは異なるアプローチでこの条項を受け入れた。サム・アルトマンは、契約に米国法への直接言及を含めることで、OpenAIは一般的な内部使用ポリシーに頼るよりも強力な保護を持っていると感じていると述べた。
技術的なセキュリティを頼りにする
OpenAIは、倫理的な懸念を和らげるために、法律上の合意に頼るだけではないと強調した。同社は、ペンタゴンの環境でAIモデルの実装を監視するためにエンジニアを配置する。
開発された「安全スタック」システムには、違法な国内監視や人間の監督なしの武器の使用など、特定の制限に違反するコマンドを検出し、拒否するように設計されたAI分類器が含まれています。Altmanは、モデルがこれらのルールに基づいてコマンドを拒否した場合、手動オーバーライドメカニズムがないため、そのタスクを実行することを強制できないと強調しました。
この合意はさまざまな反応を引き起こしました。人間的アントロピのモデル、クロードは、チャットGPTに対するボイコットの呼びかけが出現した後、App Storeのトップに急上昇したと報告されています。
内部的に、数十人の従業員が、経営陣に安全性の原則を優先し続けるよう促す公開書簡に署名しました。多くのスタッフは、新しい保護は単なる「ウィンドウドレッシング」であり、特に大規模な軍事コンテキストで適用されると、長期的な有効性について疑問を呈した。
AI業界への影響
サム・アルトマン氏は、この措置を、政府とAI業界の緊張を和らげるための試みと説明した。彼は、国家防衛のために技術がどのように使用されるかについての決定は、憲法上の保護が維持されている限り、選ばれた指導者の手に委ねられるべきだと考えている。
OpenAIとxAIが防衛部門でそれぞれの役割を果たし始めると、この進展は、民間AIテクノロジー企業が将来的に政府とどのように相互作用するかを決定する上で重要な先例になると予想されています。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
