ओपनएआई एआई मॉडल हंगिंग फेस सिस्टम के परीक्षण वातावरण से बच जाता है
जकार्ता - ओपनएआई ने स्वीकार किया कि आंतरिक साइबर सुरक्षा परीक्षण के दौरान हगिंग फेस सिस्टम को तोड़ने में उसके कई कृत्रिम बुद्धिमत्ता मॉडल शामिल थे। मॉडल परीक्षण वातावरण की सीमाओं को पार करते हैं, इंटरनेट तक पहुंच प्राप्त करते हैं, फिर हगिंग फेस के उत्पादन डेटाबेस से मूल्यांकन के उत्तर लेते हैं।
TechCrunch ने बुधवार, 22 जुलाई को उद्धृत किया, जिसमें कहा गया कि इस घटना में OpenAI के कई मॉडल शामिल थे, जिसमें GPT-5.6 Sol और एक प्री-रिलीज़ मॉडल शामिल थे जिसे अधिक उन्नत कहा जाता है। सुरक्षा जो आमतौर पर मॉडल को खतरनाक साइबर आदेशों से मना करती है, को जानबूझकर मूल्यांकन के लिए कम किया जाता है।
Hugging Face एक मॉडल और एआई डेटा सेट को संग्रहीत और साझा करने के लिए एक मंच है। कंपनी ओपनएआई से संबद्ध नहीं है।
मंगलवार को एक ब्लॉग पोस्ट में, ओपनएआई ने कहा कि मॉडल का परीक्षण एक्सप्लोरियम पर किया जा रहा है। सार्वजनिक रूप से उपलब्ध एक मापदंड यह है कि एआई को सुरक्षा खामियों का उपयोग करके हमले करने की क्षमता को मापने के लिए।
मॉडल को आम तौर पर इंटरनेट तक पहुंच नहीं होनी चाहिए। परीक्षण प्रणाली केवल सॉफ़्टवेयर पैकेज स्थापित करने के लिए उपकरण प्रदान करती है जो कार्य को पूरा करने में आवश्यक हो सकता है।
ओपनएआई एआई मॉडल हंगिंग फेस सिस्टम के परीक्षण वातावरण से बच जाता है
हालांकि, मॉडल ने पैकेजिंग प्रोग्राम में एक अनब्लॉक किया गया खंड पाया। यह खंड इंटरनेट तक व्यापक रूप से पहुंचने के लिए उपयोग किया जाता है।
"मॉडल बहुत केंद्रित हैं, जो एक्सप्लोरिट जिम के लिए समाधान की तलाश करते हैं और काफी संकीर्ण परीक्षण लक्ष्य को प्राप्त करने के लिए चरम तरीके अपनाते हैं," ओपनएआई ने लिखा।
इंटरनेट तक पहुंचने के बाद, मॉडल ने अनुमान लगाया कि Hugging Face ExploitGym से संबंधित मॉडल, डेटा सेट और समाधान रखता है। मॉडल तब गुप्त जानकारी प्राप्त करने के तरीकों की तलाश करता है जिसका उपयोग मूल्यांकन को धोखा देने के लिए किया जा सकता है।
प्रयास सफल रहा। ओपनएआई ने कहा कि मॉडल ने Hugging Face के बुनियादी ढांचे में एक खाई की खोज की और कंपनी के उत्पादन डेटाबेस से सीधे परीक्षण समाधान लिया।
इस समाधान को प्राप्त करके, मॉडल अपनी क्षमता के आधार पर चुनौती को हल किए बिना मूल्यांकन को धोखा दे सकता है।
Hugging Face ने पहले कहा था कि चोरी "बाहरी एआई एजेंट" द्वारा की गई थी। हमले में कई अस्थायी कम्प्यूटिंग रूम के माध्यम से हजारों कार्रवाई शामिल थीं। कमांड और कंट्रोल सिस्टम भी सार्वजनिक सेवाओं के माध्यम से स्थानांतरित हो सकते हैं।
ओपनएआई ने पैकेज इंस्टॉलर कार्यक्रम में एक खामी की पहचान की और रिपोर्ट की है। कंपनी इस घटना की जांच करने के लिए हगिंग फेस के साथ भी काम कर रही है।
OpenAI ने कहा कि यह मॉडल परीक्षण प्रक्रिया और संबंधित बुनियादी ढांचे में सुरक्षा बढ़ाएगा ताकि इस तरह की घटनाओं को फिर से न हो सके।
यह अभी स्पष्ट नहीं है कि ओपनएआई कानूनी परिणामों का सामना करेगा या नहीं। TechCrunch ने कहा कि मॉडल की कार्रवाई संभवतः कंप्यूटर धोखाधड़ी और दुर्व्यवहार अधिनियम, एक संघीय यू.एस. कानून का उल्लंघन कर सकती है जो अनधिकृत पहुंच और कंप्यूटर सिस्टम के दुरुपयोग को नियंत्रित करता है।
ओपनएआई के शोधकर्ता मीका कैरोल ने कहा कि यह घटना एआई असंगति के जोखिम को दर्शाती है। इस शब्द का उपयोग तब किया जाता है जब सिस्टम की कार्रवाई मानव द्वारा निर्धारित लक्ष्यों या सीमाओं के अनुरूप नहीं होती है।
"यदि यह घटना आपको अभी भी आश्वस्त नहीं करती है कि असंगति का जोखिम भविष्य में मुख्य चिंता का विषय होगा, मुझे नहीं पता कि और क्या हो सकता है," कैरोल ने लिखा।