शैडो एआई कंपनियों की निगरानी करता है, सुरक्षा टीम वास्तव में मुख्य अपराधी है

जकार्ता - "शैडो एआई" की घटना अब वैश्विक कंपनियों के लिए एक नया खतरा बन गई है, और विडंबना यह है कि इसके मुख्य अपराधी स्वयं साइबर सुरक्षा टीम से हैं।

शैडो एआई शब्द का उपयोग किसी संगठन की आधिकारिक सहमति के बिना कृत्रिम बुद्धिमत्ता उपकरणों का उपयोग करने के लिए किया जाता है। यह प्रथा कार्य कुशलता की बढ़ती आवश्यकता के साथ तेजी से विकसित हो रही है, लेकिन डेटा सुरक्षा, अनुपालन और कंपनी की प्रतिष्ठा के लिए गंभीर जोखिम भी है।

UpGuard की नवीनतम रिपोर्ट से पता चलता है कि लगभग 90 प्रतिशत सुरक्षा पेशेवरों ने कार्यालय द्वारा अनुमोदित नहीं किए गए एआई उपकरणों का उपयोग किया है। यह तथ्य दर्शाता है कि यहां तक कि सिस्टम की रखरखाव करने वाली डिवीजन भी उत्पादकता के लिए शॉर्टकट लेने लगी है।

एक नज़र में, कार्यों को तेज करने के लिए एआई का उपयोग करना एक तार्किक निर्णय की तरह लगता है। एक तीन घंटे का काम मिनटों में पूरा किया जा सकता है। हालांकि, एआई केवल एक डेटा संग्रह उपकरण नहीं है, जैसे कि सामान्य क्लाउड सेवा। यह प्रणाली उपयोगकर्ता द्वारा डेटा को प्रोसेस करती है, सीखती है, और कुछ मामलों में डेटा को संग्रहीत करती है।

यहीं खतरा है। यदि कर्मचारी निगरानी के बिना एआई प्लेटफ़ॉर्म पर आंतरिक दस्तावेज़, स्रोत कोड या संवेदनशील जानकारी डालते हैं, तो डेटा संभावित रूप से तीसरे पक्ष के लिए उजागर हो सकता है।

वित्तीय जोखिम भी महत्वपूर्ण है। नेटव्रिक्स के शोध से पता चलता है कि उच्च स्तर पर शैडो एआई का उपयोग करने वाली कंपनियां केवल आधिकारिक उपकरणों का उपयोग करने वाली संगठनों की तुलना में 600,000 डॉलर से अधिक डेटा उल्लंघन की लागत वहन करती हैं।

समस्या सिर्फ़ डेटा लीक नहीं है. एआई गलत जानकारी या "हालुसिनेशन" भी उत्पन्न कर सकता है जो बाद में कार्यकारी रिपोर्ट, व्यावसायिक विश्लेषण या यहां तक कि उत्पादन कोड में प्रवेश करता है. जब एआई परिणामों को मानव सत्यापन के बिना सीधे विश्वास किया जाता है, तो छोटी गलतियां बड़ी हानि में बदल सकती हैं.

शैडो एआई के जोखिम अब "एजेन्टिक एआई" के रूप में कहा जाने वाले अगले स्तर पर बढ़ रहे हैं। एक सामान्य चैटबोट से अलग, एजेन्टिक एआई सीधे कार्रवाई करने में सक्षम है - ईमेल पढ़ना, फ़ाइलों को स्थानांतरित करना, उपयोगकर्ता की ओर से कोड चलाना।

सबसे अधिक चर्चा किए जाने वाले उदाहरणों में से एक ओपनक्लॉ है। इस तरह के प्लेटफ़ॉर्म अत्यधिक उत्पादकता प्रदान करते हैं, लेकिन नए हमले के छेद भी खोलते हैं।

सुरक्षा शोधकर्ताओं ने हाल ही में ओपनक्लो के लिए एक सामुदायिक एक्सटेंशन की खोज की, जो एक छिपे हुए मैलवेयर था, जो चुपचाप अनजान सर्वर पर डेटा भेजता था। चूंकि सिस्टम उपयोगकर्ता की मूल अनुमति का उपयोग करके कार्य करता है, इसलिए संदिग्ध गतिविधि अक्सर पारंपरिक सुरक्षा उपकरणों की पहचान से बच जाती है।

संक्षेप में: एआई अब एक "डिजिटल इंसान" बन सकता है जिसे असली कर्मचारियों से अलग करना मुश्किल है।

कार्यस्थल पर एआई के उपयोग पर प्रतिबंध लगाने का प्रयास अप्रभावी साबित हुआ है। लगभग आधे कर्मचारियों ने स्वीकार किया कि वे अपने पसंदीदा एआई उपकरण का उपयोग करेंगे, भले ही कंपनी ने स्पष्ट रूप से मना कर दिया हो। प्रतिबंध केवल इस प्रथा को भूमिगत में प्रेरित करता है - इसे मॉनिटर करना और भी मुश्किल है और भी अधिक खतरनाक है।

एक अधिक यथार्थवादी दृष्टिकोण यह है कि सुरक्षित और काम के लिए आवश्यक आधिकारिक एआई विकल्प प्रदान करना है। एक स्वास्थ्य सेवा प्रणाली ने एक स्वीकृत आंतरिक मंच प्रदान करने के बाद अवैध एआई उपयोग को लगभग 90 प्रतिशत तक कम कर दिया।

VOI Whatsapp Channel का पालन करें