ओपनएआई ने एस्ट्रा को धीमा कर दिया जब मॉडल ने साइबर सुरक्षा की सीमा को पार किया

ओपनएआई का चित्रण। कंपनी ने एस्ट्रा मॉडल पर कुछ काम को अस्थायी रूप से रोक दिया, जब उसके साइबर क्षमता ने अतिरिक्त सुरक्षा को सक्रिय किया। चित्रण फोटो: अनप्लैश।

JAKARTA - OpenAI ने आंतरिक मूल्यांकन के बाद एस्ट्रा एआई मॉडल पर कुछ काम को अस्थायी रूप से रोक दिया, जिसमें पाया गया कि साइबर क्षमता अतिरिक्त सुरक्षा को प्रेरित करने के लिए विकसित हुई थी।

TechCrunch ने शनिवार, 8 अगस्त को उद्धृत किया, रिपोर्ट की, एस्ट्रा अभी भी विकास के चरण में है, यह एजेंटिक कोडिंग में बड़ी प्रगति दिखाता है, अर्थात् एआई की क्षमता स्वतंत्र रूप से प्रोग्रामिंग कार्यों की एक श्रृंखला को चलाने के साथ-साथ साइबर सुरक्षा भी।

OpenAI ने कहा कि मॉडल ने साइबर सुरक्षा की महत्वपूर्ण सीमा को पार कर लिया है।

कंपनी के अनुसार, यह सीमा का मतलब है कि मॉडल स्वतंत्र रूप से वास्तविक सिस्टम पर साइबर हमले की पहचान और निष्पादित कर सकता है, जो आमतौर पर अच्छी तरह से संरक्षित होता है।

इस खोज ने 2023 में बनाए गए ओपनएआई तैयारी ढांचे के आधार पर अतिरिक्त सुरक्षा लागू करने को प्रेरित किया।

"जैसे ही हम इस मॉडल का परीक्षण और मूल्यांकन जारी रखते हैं, हमारे शुरुआती मूल्यांकन ने पर्याप्त मजबूत प्रदर्शन दिखाया है, इसलिए वर्तमान में हम क्रिटिकल क्षमता के स्तर को नकार नहीं सकते," ओपनएआई ने लिखा।

इसका मतलब है कि ओपनएआई ने यह सुनिश्चित नहीं किया है कि एस्ट्रा क्रिटिकल क्षमता के स्तर पर है। प्रारंभिक मूल्यांकन केवल संभावना को दिखाता है कि इसे अभी भी नकारा नहीं जा सकता है।

कंपनी ने यह भी कहा कि एस्ट्रा Hugging Face के शोषण में शामिल नहीं है।

यह घोषणा तब हुई जब ओपनएआई पहले से ही एक अन्य मॉडल के कारण हाइलाइट किया गया था, जिसे आंतरिक परीक्षण में हगिंग फेस सिस्टम को पार करने के लिए जारी नहीं किया गया था।

TechCrunch ने घटना को पहला सत्यापित मामला बताया जब एक एआई लैब ने अपने मॉडल पर नियंत्रण खो दिया।

तब से, ओपनएआई और एंथ्रोपिक जैसे अन्य एआई प्रयोगशालाओं ने भी एआई मॉडल के अलगाव या सैंडबॉक्स परीक्षण वातावरण को तोड़ने और साइबर सुरक्षा परीक्षण के दौरान खतरा पैदा करने के कई उदाहरणों को उजागर किया है।

सैंडबॉक्स एक परीक्षण वातावरण है जो मॉडल या सॉफ़्टवेयर का परीक्षण करते समय जोखिम को सीमित करने के लिए मुख्य प्रणाली से अलग है.

घटनाओं की श्रृंखला ने साइबर सुरक्षा विशेषज्ञों, नीति निर्माताओं और एआई कंपनियों से विभिन्न प्रतिक्रियाओं को प्रेरित किया। कुछ ने अधिक सख्त निगरानी का अनुरोध किया।

दूसरी ओर, कुछ लोग ऐसे कौशल को एक तकनीकी उपलब्धि के रूप में देखते हैं जो एआई मॉडल की प्रगति को दर्शाता है।

OpenAI ने कहा कि Astra के बारे में जानकारी साझा की गई थी क्योंकि कंपनी ने मूल्यांकन किया कि सार्वजनिक और सुरक्षा और सुरक्षा समुदाय को मॉडल की क्षमता में बदलाव के बारे में पता होना चाहिए।

कंपनी अब सुरक्षा नियंत्रण को कस रही है और एस्ट्रा को शामिल करने वाली आंतरिक गतिविधियों को अस्थायी रूप से रोक रही है यदि वे नए सुरक्षा मानकों को पूरा नहीं करते हैं।

OpenAI भी संबंधित सरकारी एजेंसियों और एआई सुरक्षा के कई चयनित संगठनों के साथ काम कर रहा है, ताकि एस्ट्रा की क्षमता का और परीक्षण किया जा सके।