카스퍼스키, 자율 AI 에이전트 위험으로부터 조직을 보호하는 팁 공유

자율적으로 작동하는 인공 지능 에이전트 (AI Agent)의 사용은 고객 서비스 중단부터 기업 데이터베이스 제거 가능성에 이르기까지 조직에 심각한 보안 위험을 초래할 것으로 평가됩니다.

이를 고려할 때, 카스퍼스키는 이러한 상황이 정보 기술 관리자, 특히 CIO 및 CISO에 새로운 관리 문제를 제기한다고 평가했습니다.

"이 에이전트는 인간의 개입 없이도 결정을 내리고, 도구를 사용하고, 민감한 데이터를 처리합니다. 그 결과, 많은 표준 IT 및 보안 도구가 AI를 제어 할 수 없다는 것이 밝혀졌습니다."라고 회사는 2 월 1 일 일요일 인용했습니다.

이를 위해 카스퍼스키는 기업이 AI 에이전트에 대한 액세스를 제한하여 엄격하게 제한된 작업을 수행하도록 권장합니다.

카스퍼스키는 또한 AI 에이전트가 손상된 경우 악용을 방지하기 위해 제한된 범위의 임시 토큰 및 API 키와 같은 짧은 기간 사용자 인증을 사용할 것을 권장합니다.

또한, 금융 거래 승인이나 대량 데이터 삭제와 같은 고위험 작업에는 여전히 인간의 참여가 필수적입니다.

기술적으로 볼 때, AI 에이전트의 실행은 컨테이너 또는 샌드박스와 같은 안전한 환경에서 격리되어야 하며, 엄격한 네트워크 트래픽 제어가 동반되어야 합니다. 에이전트의 모든 계획과 작업은 실행되기 전에 정책 집행 메커니즘을 통해 먼저 검토되어야 합니다.

AI 에이전트의 모든 활동도 감사 및 법의학 조사를 위해 변경할 수없는 로그에 지속적으로 기록해야합니다.

카스퍼스키는 API 호출의 급격한 증가, 자체 복제 시도 또는 원래 목표에서 벗어난 것과 같은 이상을 감지하기 위해 에이전트 행동을 자동으로 모니터링하는 것이 중요하다는 점을 강조했습니다.

다른 보완 조치에는 암호화 및 인증을 통해 에이전트 간의 통신을 보호하고, 인간이 AI 신뢰 수준을 측정하는 데 도움이되는 시각적 인터페이스를 사용하고, 지속적인 직원 교육을 포함합니다.

마지막으로, 카스퍼스키는 이러한 기술의 빠른 발전을 고려할 때 조직은 사용자가 사용하는 AI 시스템의 실제 위험을 이해하도록 일년에 여러 번 교육을 제공해야합니다.