人間の存在は国家安全保障上のリスクとして分類された後、トランプ政権を訴える

AnthropicのCEO、Dario Amodeiは米国政府を訴えた(写真:x @OccupyDemocrats)

ジャカルタ - 人工知能企業Anthropicは、ペンタゴンから「サプライチェーンリスク」として議論の的となった後、米国政府を訴えた。この訴訟は、米国のドナルド・トランプ大統領の政府とテクノロジー企業との間の紛争のエスカレーションを象徴しており、軍事作戦と国内監視における人工知能の使用に関連しています。

3月9日月曜日にカリフォルニア州の連邦裁判所に提出された訴訟で、Anthropicは、政府の決定は法律に違反し、米国憲法によって保証された言論の自由と法的手続きの権利の原則に反していると主張した。

「この措置は前例がなく、違法です。憲法は、保護された見解のために企業を罰するために政府がその非常に大きな権限を使用することを許さない」とAnthropicは訴訟文書で述べた。

ペンタゴンが先週与えた「サプライチェーンリスク」のラベルは、国防プロジェクトにおけるAnthropicのAI技術の使用を事実上制限しています。この決定は、同社がAIチャットボット「クロード」の使用制限、特に完全自律型兵器とアメリカ国民の大規模監視の2つの敏感な点の削除を拒否した後に行われました。

米国国防長官のピート・ヘグセスは、リスク評価を決定した人物とされている。政府はまた、ペンタゴンのプロジェクトにおける人類学技術の使用を完全に停止するまでの6ヶ月の移行期間を発表した。

Anthropicはまた、連邦職員が仕事でチャットボットのClaudeを使用することを禁止するトランプ大統領の命令を無効にするよう裁判所に要請した。

この論争は、現代の戦争における人工知能の使用の限界に関する広範な議論を引き起こしました。一方、米国政府は、法律上正当と見なされるすべての使用においてAIを使用するための完全な柔軟性を要求しています。一方、Anthropicは、この技術が自律兵器システムに完全に引き渡すにはまだ十分に信頼できないと評価しています。

同社によると、人間の介入なしに武器を制御するためにAIを使用することは、大きなリスクをもたらす可能性がある。

「現在、最高のAIモデルでさえ、完全に自律的な兵器システムで使用するには十分に信頼できない」とAnthropic氏は述べた。

ペンタゴンは進行中の訴訟についてコメントすることを拒否した。しかし、国防当局者は以前、国家を維持する方法に関する決定は民間企業によって決定されるべきではないと強調した。

「この国をどのように守るかを決めるのは、テクノロジー企業ではなく、米国法だ」とペンタゴン当局者は述べた。

この事件をさらに熱くしたのは、サプライチェーンリスクラベルが通常、国家安全保障システムを外国企業や潜在的に有害と見なされるエンティティから保護するために使用されるという事実でした。これは、米国政府が国内のテクノロジー企業に対してこのメカニズムを使用するのは初めてです。

政府との紛争の真っ只中に、Anthropicは交渉の機会を開いています。同社は、訴訟は米国政府との対話の扉を閉じることを意味しないと強調した。

「米国政府と対立したくないし、解決策を見つけるためにオープンな姿勢を保ちたい」と同社の役員は述べた。

この対立はまた、AI業界のライバル、特にOpenAIを巻き込んだ。ペンタゴンがAnthropicに制裁を課した数時間後、OpenAIは国防プロジェクトにおける技術の使用に関するペンタゴンとの協力契約に署名したと報じられた。

この事件は、世界のAI業界にとって重要な先例となり、特にテクノロジー企業が軍隊や国家監視におけるAIの使用の倫理的限界をどのように交渉するかについて重要であると予想されています。

ビジネス面では、リスクラベルはAnthropicに重大な影響を与える可能性があります。CEOのDario Amodeiは、影響は比較的限定的であると評価していますが、同社の収益の大部分は非軍事部門と政府機関からのものです。

Anthropicは今年、1億4000万ドルの収益を上げると予測されており、500人以上の顧客が、コンピュータープログラミングやさまざまなデジタルタスクでクロードテクノロジーを使用するために、少なくとも100万ドルを支払っています。

この法的紛争の背後には、AIのような超先進技術の道徳的限界を決定すべきは誰なのかという大きな哲学的問題が隠されています。それは国家権力を握る政府か、技術を創造する企業か?