ジャカルタ - 最近のAIに対する懸念は、グローバル金融部門で感じられるようになっています。ゴールドマン・サックスのCEO、デビッド・ソロモンは、Anthropicによって開発された最新のAIモデルであるMythosによって引き起こされるリスクについて「超意識的」であることを認めた。
この声明は、AIがもはや補助ツールではなく、サイバーセキュリティにとって深刻な脅威になる可能性があるという懸念が高まっている中に出現しました。
システムを「侵入」できるAI
AnthropicのClaudeファミリーの一部であるMythosモデルは、ソフトウェアセキュリティのギャップを見つけて悪用する驚くべき能力を持っていると言われています。
彼の声明で、Anthropicは、このモデルがシステムの脆弱性を検出する上で、ほとんどの人間を上回ることを認めています。
「AIモデルは、ソフトウェアの脆弱性を発見し、悪用する上で、ほぼすべての人間を上回るコーディング能力レベルに達しています」とAnthropicは公式ブログで書いている。
どういう意味ですか?つまり、世界は新しい可能性に直面しています。ハッカーのように考えることができるAIですが、機械の速度で。
ゴールドマン・サックスは沈黙を破らない
この潜在的な脅威に直面して、ゴールドマン・サックスは積極的なアプローチを選択しました。ソロモン氏は、同社はモデルにアクセスし、Anthropicとセキュリティベンダーと直接協力して、それを理解し、利用できるようにしていると強調した。
「私たちはMythosの能力を認識しています…そして、私たちはAnthropicと私たちのセキュリティパートナーと密接に協力して、この最先端の技術を活用しています」とソロモンは言いました。
彼は、サイバーセキュリティ部門への投資は、銀行のデジタルインフラストラクチャのレジリエンスを強化する戦略の一環として、現在加速されていると付け加えた。
世界的な規制当局からの警告
この懸念は民間部門からだけではない。AI Security Institute(AISI)は、Mythosをサイバー脅威の可能性の「大きな飛躍」と呼んでいます。
彼らのテストでは、このモデルは32ステップで複雑なサイバー攻撃シミュレーションを完了することができ、通常、人間の専門家に数日かかるものと、いくつかの試みに成功しました。
AIは、防御が弱いシステムに対して自律的に攻撃を実行できることが懸念されています。
しかし、AISIはまた、強力な防衛システムに対する能力はまだ確実ではないと指摘した。
この状況は、規制当局からの迅速な対応を引き起こしました。米国財務長官のスコット・ベッセントは、AIが引き起こすリスクについて議論するために、大手銀行のトップを集めています。
イギリスでは、クロスマーケットオペレーショナルレジリエンスグループが、イングランド銀行や金融行動庁などの当局を巻き込んだ同様の会議を近い将来開催する予定です。
この進歩は、AIがもはや生産性のツールだけでなく、サイバー兵器の可能性でもあるという現実を強調しています。
金融機関にとって、賭けは非常に高いです。小さな混乱も経済の安定性に体系的な影響を与える可能性があります。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
