AIモデルの人間的アクセスシステムは、セキュリティテスト中に3つの組織

ジャカルタ - Anthropicは、テスト中にAIモデルが3つの外部組織のシステムに不正アクセスしたことを認めています。実際、テストプロセスは、モデルを実際のシステムから遠ざけるようにする必要があります。

Euronewsは7月31日金曜日に引用され、Anthropicの告白はOpenAIが同様の事件を明らかにした数日後にのみ現れたと報告した。OpenAIのAIモデルは、テスト環境から抜け出し、インターネットに接続され、他の組織のサイバースペースに侵入したと伝えられている。

Anthropicは、自社のAIモデルがテストプロセス中に3つの外部組織に不正アクセスしたと述べた。同社は影響を受けた組織の名前を明らかにしていない。

AIは、通常、人間の知能を必要とするタスクを実行するように設計された技術です。

Anthropicは141,000以上の評価テストを評価しました。このプロセスから、同社は3つの異なるバージョンのClaudeモデルが3つの組織のシステムに不適切にアクセスしていることを発見しました。

OpenAIの事件とは異なり、Anthropicは、同社の評価パートナーであるIrregularとの間で誤解があったため、モデルがインターネットにアクセスできたと述べた。

それでも、クロードは基本的な技術を使用していると言われています。その中には、弱いパスワードと認証されていないエンドポイントを悪用することです。

エンドポイントとは、デジタルシステムのアクセスポイントです。認証されていないと、システムは適切な身元確認なしにアクセスできます。

関係するモデルの1つはMythos 5です。このモデルは、Anthropicの最も強力なAIモデルの1つであり、承認された限られたパートナーのグループにのみリリースされました。

Anthropicは、この状況を評価するためにIrregularと協力していると述べた。同社はまた、影響を受けた3つの組織に連絡を取り、連絡を取ろうとしています。

この事件は、AI業界が高度なモデルの安全性とセキュリティに注目されているときに発生しました。OpenAIとAnthropicは今年、それぞれSolとMythosとして知られている最も強力なモデルをリリースしました。

AIエージェントにも懸念があります。AIエージェントは、通常のチャットボットのように質問に答えるだけでなく、タスクを自律的に実行するように設計されたソフトウェアです。

OpenAIは先週、テスト中にモデルが限定された環境から抜け出したことを認めた。モデルはインターネットに接続され、開発者がコードを保存して共有するサイトであるHugging Faceに侵入しました。

数日後、OpenAIは3つの追加のインシデントを発見したと述べた。

OpenAIのサム・アルトマンCEOは今週のポッドキャストで、同社は事件後にテストを一時停止したと述べた。OpenAIはサンドボックス化プロセスの周辺のセキュリティを改善しました。

サンドボックス化とは、テストが外部システムに触れないように、ソフトウェアを制御された環境に隔離するプロセスです。

ユーロニュースは、この事件は、AIの最先端企業の1,000人以上の従業員が署名した請願にも触発されたと述べた。彼らは、米国政府が最も先進的なAIモデルの立ち上げを遅らせるのを助けるよう求めた。

AnthropicのCEOであるDario Amodeiも署名者の一人です。

「フロンティアを加速する」というタイトルの請願書は、米国政府に対し、自動AI開発の最先端を規制できるように技術的およびガバナンスデバイスを開発するための国際的な取り組みを支援するよう求めています。

アルトマンは請願書に署名しなかった。しかし、彼はテクノロジー業界は高度なAIモデルの開発を遅らせる必要があるかもしれないと述べた。

「AIの開発ペースを調整し、人々がこの新しい能力のいくつかのレベルに直面するのに十分な時間を確保する必要があります」とAltman氏は述べています。

今年初めに、トランプ政権は国家安全保障上の理由を挙げ、OpenAIとAnthropicが最新のモデルを発売することを阻止した。しかし、政府は後に両社の安全性の保証に満足し、モデルがリリースされたと述べた。

6月、トランプは自発的な枠組みを形成する大統領令に署名しました。この枠組みでは、AI開発者は、モデルが一般に公開される前に、政府に高度なモデルを共有します。

この枠組みに基づき、OpenAI、Anthropic、Googleなどの開発者は、計画されたリリースの30日前に、政府に最も強力なモデルへのアクセスを提供します。