ジャカルタ - 顧客サービスの混乱から企業データベースの削除の可能性まで、ますます自律的な人工知能(AI)エージェントの使用は、組織にとって深刻なセキュリティリスクをもたらすと考えられています。
これを見て、Kasperskyは、この状況が情報技術のリーダー、特にCIOとCISOにとって新しいガバナンスの課題を生み出すと評価しました。
「これらのエージェントは、人間の介入なしに決定を下し、ツールを使用して機密データを処理します。その結果、多くの標準的なITおよびセキュリティツールがAIを制御できないことが判明しました」と同社は2月1日日曜日に引用しました。
そのため、Kasperskyは、AIエージェントへのアクセスを、厳密に定義された制限を持つタスクを割り当てることによって制限することを企業に勧告します。
カスペルスキーはまた、AIエージェントが侵害された場合に悪用を防ぐために、トークンや一時的なAPIキーなどの短命の資格情報の使用を推奨しています。
さらに、金融取引の承認や大量のデータの削除など、高リスクな操作には、依然として人間の関与が必要です。
技術的には、AIエージェントの実行は、コンテナやサンドボックスなどの安全な環境で隔離され、厳格なネットワークトラフィック制御を伴う必要があります。エージェントのすべての計画とアクションは、実行される前にポリシー施行メカニズムによって最初にチェックする必要があります。
AIエージェントのすべての活動も、監査とフォレンジック調査の目的のために変更できないログに継続的に記録する必要があります。
カスペルスキーは、API呼び出しの急増、自己複製試み、または元の目的からの逸脱など、異常を検出するために、エージェントの行動を自動的に監視することが重要であると強調しています。
その他の補足的なステップには、暗号化と認証を通じてエージェント間の通信を保護し、人間がAIの信頼レベルを測定するのに役立つビジュアルインターフェイスの使用、および従業員の継続的なトレーニングが含まれます。
最後に、この技術の急速な発展を考慮して、組織はユーザーが使用するAIシステムの実際のリスクを理解できるように、年に数回トレーニングを提供する必要があります。
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
