एआई एंथ्रोपिक मॉडल एक्सेस सिस्टम थ्री ऑर्गेनाइजेशन वर्तमान में सुरक्षा परीक्षण

JAKARTA - Anthropic ने स्वीकार किया कि उसके AI मॉडल को परीक्षण के दौरान तीन बाहरी संगठनों के सिस्टम तक अनधिकृत पहुंच मिली थी। जबकि, परीक्षण प्रक्रिया को मॉडल को वास्तविक दुनिया के सिस्टम से दूर रखना चाहिए।

यूरोन्यूज ने शुक्रवार, 31 जुलाई को उद्धृत किया, रिपोर्ट की, एंथ्रोपिक की स्वीकृति ओपनएआई द्वारा इसी तरह की घटना का खुलासा करने के कुछ ही दिन बाद सामने आई। ओपनएआई के एआई मॉडल को परीक्षण वातावरण से बाहर निकाला गया, इंटरनेट से जुड़ा हुआ है, और अन्य संगठनों के साइबर स्पेस में घुसपैठ कर रहा है।

एंथ्रोपिक ने कहा कि उसके एआई मॉडल को परीक्षण प्रक्रिया के दौरान तीन बाहरी संगठनों तक अनधिकृत पहुंच मिली। कंपनी प्रभावित संगठनों के नाम का उल्लेख नहीं करती है।

AI एक ऐसी तकनीक है जिसे आमतौर पर मानव बुद्धि की आवश्यकता होती है, कार्यों को करने के लिए डिज़ाइन किया गया है।

एंथ्रोपिक ने 141,000 से अधिक मूल्यांकन परीक्षणों का मूल्यांकन किया। इस प्रक्रिया से, कंपनी ने तीन अलग-अलग संस्करणों की खोज की, जिसमें तीन संगठनों के सिस्टम को अनधिकृत रूप से एक्सेस किया गया था।

ओपनएआई की घटना से अलग, एंथ्रोपिक ने कहा कि उसकी मॉडल इंटरनेट तक पहुंच सकती है क्योंकि कंपनी और उसके मूल्यांकन भागीदार, अनियमित के बीच गलतफहमी थी।

इसके बावजूद, क्लाउड को एक बुनियादी तकनीक का उपयोग करने के लिए जाना जाता है। इसमें कमजोर पासवर्ड और अनधिकृत एंडपॉइंट का शोषण करना शामिल है।

एंडपॉइंट डिजिटल सिस्टम में एक एक्सेस बिंदु है। यदि यह प्रमाणीकृत नहीं है, तो सिस्टम को पर्याप्त पहचान जांच के बिना एक्सेस किया जा सकता है।

इसमें शामिल मॉडल में से एक माइथोस 5 है। यह मॉडल एंथ्रोपिक के सबसे शक्तिशाली एआई मॉडल में से एक है और यह सीमित संख्या में पहले से अनुमोदित भागीदारों के लिए जारी किया गया है।

एंथ्रोपिक ने कहा कि वह इस स्थिति का मूल्यांकन करने के लिए अनियमित के साथ काम कर रहा है। कंपनी ने प्रभावित तीन संगठनों से भी संपर्क किया है या संपर्क करने का प्रयास किया है।

यह घटना तब सामने आई जब एआई उद्योग उन्नत मॉडल की सुरक्षा और सुरक्षा के बारे में आलोचना का सामना कर रहा था। ओपनएआई और एंथ्रोपिक दोनों ने इस साल अपने सबसे शक्तिशाली मॉडल जारी किए, जिन्हें क्रमशः सोल और मिथोस के रूप में जाना जाता है।

एआई एजेंटों पर भी चिंताएं उभरी हैं। एआई एजेंट ऐसे सॉफ़्टवेयर हैं जो सामान्य चैटबॉट की तरह सवालों के जवाब देने के बजाय स्वतंत्र रूप से कार्य करने के लिए डिज़ाइन किए गए हैं।

ओपनएआई ने पिछले हफ़्ते स्वीकार किया कि परीक्षण के दौरान मॉडल सीमित वातावरण से बाहर हो गया था। मॉडल इंटरनेट से जुड़ा था और Hugging Face में घुस गया था, एक साइट जहाँ डेवलपर्स कोड को संग्रहीत और साझा करते हैं।

कुछ दिनों बाद, ओपनएआई ने कहा कि तीन अतिरिक्त घटनाएं मिलीं।

ओपनएआई के सीईओ सैम ऑल्टमैन ने इस सप्ताह एक पॉडकास्ट में कहा कि कंपनी ने घटना के बाद अपने परीक्षणों को अस्थायी रूप से रोक दिया है। ओपनएआई ने सैंडबॉक्सिंग प्रक्रिया के आसपास सुरक्षा को सुधारा।

सैंडबॉक्सिंग एक नियंत्रित वातावरण में सॉफ़्टवेयर को अलग करने की प्रक्रिया है ताकि परीक्षण बाहरी सिस्टम को न छू सके.

यूरोन्यूज ने कहा कि यह घटना एआई कंपनी के अग्रणी 1,000 से अधिक कर्मचारियों द्वारा हस्ताक्षरित एक याचिका को भी प्रेरित करती है। वे संयुक्त राज्य सरकार से सबसे उन्नत एआई मॉडल के लॉन्च को धीमा करने में मदद करने का अनुरोध करते हैं।

एंथ्रोपिक के सीईओ डारियो अमोदेई भी याचिका पर हस्ताक्षर करने वालों में से एक थे।

"Pacing the Frontier" नामक याचिका में कहा गया है कि अमेरिकी सरकार स्वचालित एआई विकास की सबसे उन्नत दर को नियंत्रित करने के लिए तकनीकी उपकरणों और प्रशासन को विकसित करने के लिए अंतरराष्ट्रीय प्रयासों का समर्थन करेगी।

ऑल्टमैन ने याचिका पर हस्ताक्षर नहीं किए। हालांकि, उन्होंने कहा कि तकनीकी उद्योग को शायद उन्नत एआई मॉडल के विकास को धीमा करने की आवश्यकता है।

"हमारे पास एआई के विकास की गति को नियंत्रित करना होगा ताकि हमारे पास लोगों के लिए पर्याप्त समय हो कि वे इन नए स्तरों की क्षमताओं का सामना करने के लिए खुद को मजबूत बना सकें," ऑल्टमैन ने कहा।

इस साल की शुरुआत में, ट्रम्प प्रशासन ने ओपनएआई और एंथ्रोपिक को उनकी नवीनतम मॉडल लॉन्च करने से रोकने के लिए राष्ट्रीय सुरक्षा का हवाला दिया। हालांकि, सरकार ने बाद में दोनों कंपनियों की सुरक्षा की गारंटी से संतुष्ट होने की घोषणा की, जिससे मॉडल जारी किया गया।

जून में, ट्रम्प ने एक स्वैच्छिक रूपरेखा बनाने के लिए एक कार्यकारी आदेश पर हस्ताक्षर किए। इस ढांचे में, एआई डेवलपर्स सार्वजनिक रूप से जारी किए जाने से पहले सरकार को उन्नत मॉडल साझा करते हैं।

इस ढांचे के आधार पर, ओपनएआई, एंथ्रोपिक और Google जैसे डेवलपर्स सरकार को लॉन्च योजना से 30 दिन पहले तक अपने सबसे शक्तिशाली मॉडल तक पहुंच प्रदान करते हैं।