シャドウAIが企業を監視し、セキュリティチームが主要な加害者になる

ジャカルタ - 「シャドーAI」現象は、グローバル企業にとって新たな脅威となり、皮肉なことに、主な加害者はサイバーセキュリティチーム自体に由来します。

シャドウAIという言葉は、組織の公式な承認なしに人工知能ツールを使用することを指します。このプラクティスは、作業効率の必要性の高まりとともに急速に発展していますが、データセキュリティ、コンプライアンス、および企業の評判に深刻なリスクをもたらします。

UpGuardの最新レポートによると、セキュリティ専門家のほぼ90%が、オフィスによって承認されていないAIツールを使用していることが知られています。この事実により、システムの保守を担当する部門でさえ、生産性のためにショートカットを踏むようになっています。

AIを使用してタスクを高速化することは、論理的な決定のように思われる。3時間の仕事は数分で完了することができます。しかし、AIは通常のクラウドサービスのようなデータ保存ツールではありません。このシステムは、ユーザーが入力したデータを処理、学習、場合によっては保存します。

これが危険なところです。従業員が監視されていないAIプラットフォームに社内文書、ソースコード、または機密情報を入力した場合、データは第三者に公開される可能性があります。

金融リスクも重大です。Netwrixの調査によると、Shadow AIの使用率が高い企業は、公式デバイスのみを使用する組織よりも、データ侵害の費用が600,000ドル以上かかることが示されています。

問題はデータ漏洩だけではない。AIは間違った情報や「幻覚」を生成し、それが経営陣の報告書、ビジネス分析、さらには生産コードに組み込まれます。AIの結果が人間の検証なしで生で信頼される場合、小さな間違いは大きな損失に変わる可能性があります。

シャドウAIのリスクは、現在、「エージェンティックAI」と呼ばれる次のレベルに発展しています。一般的なチャットボットとは異なり、エージェンティックAIは、ユーザーに代わってメールを読む、ファイルを移動する、コードを実行するなど、直接的な行動を取ることができます。

大いに議論されている例の1つはOpenClawです。この種のプラットフォームは極端な生産性を提供しますが、新しい攻撃の隙も開きます。

セキュリティ研究者は最近、OpenClawのコミュニティ拡張機能を検出し、マルウェアとして偽装され、データが不明なサーバーに送信されたことを発見しました。システムはユーザーの実際の権限を使用して動作するため、疑わしい活動はしばしば従来のセキュリティデバイスの検出から逃れることができます。

要するに、AIは今や、本物の従業員と区別がつかない「デジタルインサイドマン」になることができます。

職場でのAIの使用を禁止する努力は、効果的ではないことが証明されています。従業員のほぼ半数が、会社が明確に禁止したにもかかわらず、彼らのお気に入りのAIツールを使用し続けることを認めています。禁止は、その慣行を地下に押し込むだけです。監視がより困難で、より危険です。

より現実的なアプローチは、安全で、仕事に適した公式のAI代替手段を提供することです。医療サービスシステムの1つは、承認された社内プラットフォームを提供した後、不正なAIの使用をほぼ90%抑えることに成功しました。

VOIのWhatsAppチャンネルに従ってください