섀도우 AI가 기업을 감시하면서 보안 팀은 주요 범죄자가 된다

"섀도우 AI"현상은 글로벌 기업에 새로운 위협이되었으며, 아이러니하게도 주요 범죄자는 사이버 보안 팀 자체에서 비롯된 것입니다.

섀도우 AI라는 용어는 조직의 공식 동의 없이 인공 지능 도구를 사용하는 것을 의미합니다. 이 관행은 작업 효율성에 대한 요구가 증가함에 따라 빠르게 발전하고 있지만 데이터 보안, 규정 준수 및 회사 평판에 심각한 위험을 초래합니다.

UpGuard의 최신 보고서에 따르면 거의 90%의 보안 전문가가 사무실에서 승인하지 않은 AI 도구를 사용하고 있다고 알려져 있습니다. 이 사실은 시스템을 보호하는 부서조차도 생산성을 위해 단축키를 시작하고 있다는 것을 보여줍니다.

AI를 사용하여 작업을 가속화하는 것은 논리적 결정처럼 보일 수 있습니다. 3 시간의 작업은 몇 분 안에 완료 될 수 있습니다. 그러나 AI는 일반적인 클라우드 서비스와 같은 데이터 저장 도구가 아닙니다. 이 시스템은 사용자가 입력한 데이터를 처리, 학습 및 경우에 따라 저장합니다.

이것이 위험한 곳입니다. 직원이 감독되지 않은 AI 플랫폼에 내부 문서, 소스 코드 또는 민감한 정보를 입력하면 데이터가 제3자에게 노출될 수 있습니다.

금융 위험도도 상당합니다. Netwrix의 연구에 따르면 높은 수준의 Shadow AI 사용을 하는 기업은 공식 장치만 사용하는 조직에 비해 데이터 침해 비용이 600,000 달러 이상을 부담하고 있습니다.

문제는 데이터 유출에만 있는 것이 아닙니다. AI는 또한 실수 또는 "환각"을 생성하여 경영진 보고서, 비즈니스 분석 또는 심지어 생산 코드에 들어갈 수 있습니다. AI 결과가 인간의 검증없이 즉시 신뢰할 수 있을 때, 작은 실수는 큰 손실로 바뀔 수 있습니다.

섀도우 AI의 위험은 현재 "에이전트 AI"라고 불리는 다음 단계로 확장되고 있습니다. 일반적인 챗봇과는 달리, 에이전트 AI는 사용자를 대신하여 이메일을 읽거나 파일을 이동하거나 코드를 실행하는 등의 직접적인 조치를 취할 수 있습니다.

가장 많이 언급되는 예 중 하나는 OpenClaw입니다. 이러한 플랫폼은 극단적인 생산성을 제공하지만 새로운 공격 취약점도 열어줍니다.

보안 연구원은 최근 오픈클로의 커뮤니티 확장 기능을 발견했는데, 이는 숨겨진 악성 코드로 판명되었으며, 데이터를 알려지지 않은 서버로 암호화하여 암호화했습니다. 시스템이 사용자의 기본 권한으로 작동하기 때문에, 의심스러운 활동은 종종 전통적인 보안 장치의 감지에서 벗어납니다.

간단히 말해, AI는 이제 실제 직원과 구별하기 어려운 "디지털 인간"이 될 수 있습니다.

직장에서 AI 사용을 금지하려는 시도는 효과가 없었습니다. 직원의 거의 절반은 회사가 명백히 금지하더라도 좋아하는 AI 도구를 계속 사용할 것이라고 인정했습니다. 금지는 그 관행을 지하로 밀어 넣습니다. 더 어려운 감시와 더 위험한.

더 현실적인 접근법은 안전하고 작업에 적합한 공식 AI 대안을 제공하는 것입니다. 한 보건 서비스 시스템은 승인 된 내부 플랫폼을 제공 한 후 불법적인 AI 사용을 거의 90 %까지 줄일 수 있었습니다.

VOI 왓츠앱 채널을 따르십시오