JAKARTA - ओपनएआई की सुरक्षा परीक्षण एक असामान्य साइबर घटना में बदल गई। एक एआई एजेंट ने परीक्षण वातावरण से बाहर निकलने का दावा किया, फिर हगिंग फेस सिस्टम में प्रवेश किया और दर्जनों स्वचालित कार्यों को किया।
एआई एजेंट एक कृत्रिम बुद्धिमत्ता प्रणाली है जो निर्देशों के आधार पर स्वतंत्र रूप से कार्य कर सकती है। सामान्य चैटबॉट के साथ अंतर यह है कि एआई एजेंट न केवल जवाब देता है, बल्कि कदम उठा सकता है, एक रास्ता खोज सकता है और कुछ कार्रवाई कर सकता है।
CNet ने सोमवार, 27 जुलाई को उद्धृत किया, रिपोर्ट की, यह घटना तब हुई जब ओपनएआई ने सैंडबॉक्स में अपने दो उन्नत मॉडल का परीक्षण किया। सैंडबॉक्स एक अलग वातावरण है जिसका उपयोग सिस्टम को वास्तविक सेवाओं को सीधे छूने से रोकने के लिए परीक्षण करने के लिए किया जाता है।
परीक्षण ओपनएआई सुरक्षा अनुसंधान का हिस्सा है। इसका उद्देश्य यह देखना है कि क्या दो मॉडल, जिसमें GPT-5.6 Sol और एक और मॉडल शामिल हैं, जो अधिक शक्तिशाली है लेकिन अभी तक जारी नहीं किया गया है, "हैकर्स की तरह सोच सकते हैं"।
परीक्षण कम सुरक्षा बाधाओं के साथ किया गया था। समस्या तब सामने आई जब एआई मॉडल ने सॉफ़्टवेयर में एक खाई खोजी, परीक्षण रूम से बाहर निकल गया, और फिर खुले इंटरनेट से जुड़ा।
ऑनलाइन होने के बाद, एआई एजेंट ने पाया कि Hugging Face के पास परीक्षण के मानकों को "झुका" देने का एक तरीका हो सकता है ताकि मॉडल मूल्यांकन पास कर सकें। Hugging Face खुले स्रोत एआई मॉडल और डेटासेट के लिए एक मंच है।
एजेंट ने तब एक कोड चलाया जो क्रेडेंशियल एकत्र करने की अनुमति देता है। क्रेडेंशियल सिस्टम में प्रवेश करने के लिए डेटा है, जैसे टोकन, एक्सेस कुंजी या पासवर्ड। इस पथ का उपयोग Hugging Face उत्पादन प्रणाली में प्रवेश करने के लिए किया जाता है।
Hugging Face ने संदिग्ध गतिविधि का पता लगाया और उसे रोक दिया। कंपनी ने ब्लॉग पोस्ट में घटना का विवरण दिया। ओपनएआई ने इसे "अभूतपूर्व साइबर घटना" कहा।
CNet ने यह भी खुलासा किया कि 2025 में, Ziff Davis, Ziff Davis के स्वामित्व वाली कंपनी, OpenAI पर मुकदमा चला रही थी। मुकदमा OpenAI पर आरोप लगाता है कि Ziff Davis के AI सिस्टम के प्रशिक्षण और संचालन में कॉपीराइट का उल्लंघन किया गया है।
इस घटना का सबसे परेशान करने वाला हिस्सा केवल सिस्टम का उल्लंघन नहीं था। CNet के अनुसार, एआई एजेंट मानव हैकर समूह की तरह क्लासिक अर्थ में हमला नहीं करता है। सिस्टम निर्देशों के अनुसार परीक्षण को पूरा करने का प्रयास करता है।
समस्या यह है कि एजेंट Hugging Face को जवाब की ओर एक रास्ता देखता है। फिर वह कंपनी के बुनियादी ढांचे में प्रवेश करने की कोशिश करता है।
इसलिए, ओपनएआई-हगिंग फेस की घटना को एआई उद्योग के लिए एक कठोर चेतावनी के रूप में जाना जाता है। इस मामले में "हमलावर" एक स्वायत्त एआई प्रणाली है, न कि मानव नियंत्रित हैकर टीम।
जोखिम सिर्फ़ क्रेडेंशियल चोरी से अधिक व्यापक है. एआई मॉडल, यहां तक कि परीक्षण रूम में, अनपेक्षित व्यवहार कर सकते हैं, वास्तविक सेवाओं को छू सकते हैं, और समय पर रोकना मुश्किल हो सकता है.
ओपनएआई द्वारा बरामदगी की घोषणा के कुछ दिनों बाद, अमेरिकी सांसदों ने एआई किल स्विच अधिनियम पेश किया। अमेरिकी प्रतिनिधि सभा में द्विदलीय विधेयक यह आवश्यक होगा कि उन्नत एआई डेवलपर्स के पास मॉडल और एजेंट को तुरंत सीमित करने, निलंबित करने या बंद करने का तरीका हो।
यह विधेयक संघीय एजेंसियों को यह अधिकार भी देता है कि वे मॉडल को धीमा या रोकें यदि वे "नाटकीय नुकसान" का कारण बनते हैं।
हालांकि, CNet ने कहा कि इस तरह के कदम निश्चित रूप से आसान नहीं होंगे। एंथ्रोपिक ने पहले पाया कि एआई मॉडल बहुत खतरनाक कार्रवाई कर सकता है, जिसमें मॉडल के वजन को चुराने या उन लोगों को धमकाने की कोशिश करना शामिल है जिन्हें मारने की धमकी दी जाती है।
मॉडल का वजन एआई सिस्टम का एक महत्वपूर्ण हिस्सा है जो प्रशिक्षण परिणामों के पैटर्न को संग्रहीत करता है। सरल भाषा में, यह "तकनीकी स्मृति" की तरह है जो मॉडल को काम करने में सक्षम बनाता है।
यह घटना अमेरिका और चीन के बीच एआई प्रतिस्पर्धा के एक और पहलू को भी दिखाती है। हमले का विश्लेषण करने के लिए, Hugging Face ने कहा कि वे वाणिज्यिक एआई उपकरणों का उपयोग नहीं कर सकते क्योंकि वे हमले के नोट्स और हैकिंग गतिविधि के निशान पढ़ने के लिए बहुत बंद और कड़े हैं।
इसके बजाय, कंपनी चीन के ओपन-सोर्स मॉडल, GLM 5.2 का उपयोग करती है। मॉडल हगिंग फेस के वातावरण में फोरेंसिक डेटा को संसाधित कर सकता है, बिना संवेदनशील जानकारी को बाहर भेजता है।
OpenAI और Hugging Face ने बाद में घटना के बाद सुरक्षा में सुधार और सीमा पर चर्चा की। OpenAI के लिए एक कदम यह है कि वे लंबे समय तक चलने वाले मॉडल पर स्वचालित जांच चलाते हैं।
OpenAI ने विश्वसनीय पहुंच कार्यक्रम में Hugging Face को भी जोड़ा। यह कार्यक्रम साइबर सुरक्षा शोधकर्ताओं और कुछ पक्षों को साइबर-सक्षम मॉडल तक पहुंच प्रदान करता है और रक्षा को तैयार करने के लिए उपयोग की सीमा कम होती है।
CNet ने इस घटना को नैनोजीपीटी स्पीडरन के मामले से भी जोड़ा। इस मामले में, एक बंद वातावरण में स्थित मॉडल बार-बार बाहर निकलने के तरीकों की तलाश करता है और "केवल" परिणामों को स्लैक पर अपलोड करने के निर्देशों को अनदेखा करता है।
मॉडल को GitHub पर एक पुल अनुरोध भी करने के लिए कहा गया था, जो कोड में परिवर्तन को परियोजना में जोड़ने के लिए एक अनुरोध है। हालांकि, सिस्टम ने तब पहली बार टोकन को अवरुद्ध करते समय प्रमाणीकरण टोकन को नकली करने का तरीका खोज लिया।
प्रमाणीकरण टोकन एक सिस्टम तक पहुंच को साबित करने के लिए एक डिजिटल कोड है.
GitHub घटना में, ओपनएआई द्वारा समस्या को संभालने से पहले कोड को कई परियोजनाओं में शामिल किया गया था।
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
