ジャカルタ - 米国政府は、国家安全保障上の懸念を理由に、Anthropicに、その2つの最も先進的な人工知能(AI)モデル、Claude Fable 5とClaude Mythos 5へのアクセスを直ちに停止するよう命じた。
6月13日(土)のTechCrunchの報告を引用して、Anthropicは金曜日の17.21東部時間帯に受け取った命令に従ったと述べた。しかし、AI企業は政府の決定が適切ではないと判断した。
この命令により、Anthropicは、以前は米国輸出規制の対象となっていた外国国民だけでなく、世界中のすべてのユーザーに対して、Fable 5とMythos 5へのアクセスを無効にする必要がありました。Anthropicの他のAIモデルは引き続き使用できます。
ミトスはAnthropicが開発した最も強力なAIモデルです。このモデルは、ソフトウェアのセキュリティギャップを検出する能力が高いため、4月に限定的に導入されました。
TechCrunchが引用したAnthropicの声明によると、Mythosは、同社がテストしたさまざまな主要なオペレーティングシステムとブラウザの脆弱性を発見することができました。
この機能は非常に敏感であると考えられているため、Anthropicは広くアクセスを提供していません。同社は、Amazon、Apple、Google、Microsoft、CrowdStrikeなどのサイバーセキュリティ防衛のために、Project Glasswingプログラムを通じてMythosを使用する約50の組織のみを許可しています。
一方、数日前にリリースされたFable 5は、ガードレールや安全バリアを備えたMythosバージョンです。この技術は、サイバーセキュリティや生物学などのリスクの高い分野でAIが回答を提供することを防ぐように設計されています。
AI技術のパフォーマンスを監視する機関であるVals AIのテストに基づいて、Fable 5は一般の人々にとって利用可能な最も洗練されたAIモデルの1つと呼ばれています。
TechCrunchも引用した同社のブログでは、AnthropicはFable 5の脱獄の疑いに関する政府の懸念を指摘した。
AIの世界では、脱獄は、開発者が設定したセキュリティルールや制限を迂回するAIモデルを作成するための技術です。
しかし、Anthropic氏は、政府はこれまで、すべての状況に適用されるわけではないが、制限された脱獄の可能性について口頭で証拠を提示しただけだと述べた。
Anthropicによると、プログラムコードを読み、ソフトウェアの脆弱性を発見する能力は、OpenAIのGPT-5.5を含む、一般にアクセス可能な他のAIモデルでも実際に利用可能です。この能力は、サイバーセキュリティ専門家によってデジタルシステムを保護するために長年使用されてきました。
Anthropicはまた、主要な保護システムは独立した分類器、すなわちAIの出力を監視し、フィルタリングする別の監視システムを介して動作することを説明しました。このメカニズムにより、モデルの初期拒否を迂回しようとする試みにもかかわらず、有害と見なされる結果に対する保護は実行できます。
それでも、米国政府は決定を実行した。アントロフィックは、この動きに反対を表明した。
「制限されたジェイルブレイクの可能性の発見が、何億人もの人々が使用してきた商業モデルを撤回する理由であるべきではないことに同意していません。この基準が業界全体に適用されれば、すべての高度なAI開発者から新しいAIモデルの立ち上げが妨げられる可能性があります」とAnthropicは書きました。
この事件はまた、AI業界の大きな議論を再び強調しています。高度なAIの能力は、セキュリティ上の理由からどの程度制限されるべきか、そして政府が急速に発展する技術をどのように規制するか。
以前、OpenAIのサム・アルトマンCEOはAnthropのやり方を批判した…
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
