अमेरिकी सरकार एआई की सबसे शक्तिशाली पहुंच को रोकती है, एंथ्रोपिक, क्लाउड फेबेल 5 और मिथोस 5 को ब्लॉक किया जाता है

जकार्ता - संयुक्त राज्य अमेरिका की सरकार ने एंथ्रोपिक को राष्ट्रीय सुरक्षा के बारे में चिंताओं का हवाला देते हुए अपने दो सबसे उन्नत कृत्रिम बुद्धिमत्ता (एआई) मॉडल, क्लाउड फैबेल 5 और क्लाउड मिथोस 5 तक पहुंच को तुरंत रोकने का आदेश दिया।

शनिवार, 13 जून को TechCrunch की रिपोर्ट का हवाला देते हुए, एंथ्रोपिक ने कहा कि उसने शुक्रवार को 17.21 बजे पूर्वी अमेरिकी समय पर प्राप्त आदेश का पालन किया था। हालांकि, एआई कंपनी ने सरकार के फैसले को गलत बताया।

आदेश ने एंथ्रोपिक को दुनिया भर के सभी उपयोगकर्ताओं के लिए Fable 5 और Mythos 5 तक पहुंच को निष्क्रिय करना पड़ा, न कि केवल विदेशी नागरिक जो पहले संयुक्त राज्य अमेरिका के निर्यात नियंत्रण नियमों का लक्ष्य थे। एंथ्रोपिक के अन्य एआई मॉडल का उपयोग किया जा सकता है।

मिथोस एंट्रोपिक द्वारा विकसित किया गया सबसे शक्तिशाली एआई मॉडल है। मॉडल को अप्रैल में सीमित रूप से पेश किया गया था क्योंकि यह सॉफ़्टवेयर में सुरक्षा खामियों को खोजने की उच्च क्षमता रखता है।

TechCrunch द्वारा उद्धृत एंथ्रोपिक के बयान के अनुसार, मिथोस कंपनी द्वारा परीक्षण किए गए विभिन्न प्रमुख ऑपरेटिंग सिस्टम और ब्राउज़रों में कमजोरियों का पता लगाने में सक्षम है।

क्योंकि इस क्षमता को बहुत संवेदनशील माना जाता है, एंथ्रोपिक ने व्यापक रूप से पहुंच नहीं खोली। कंपनी केवल 50 चुनिंदा संगठनों को परियोजना ग्लासविंग नामक कार्यक्रम के माध्यम से मिथोस का उपयोग करने की अनुमति देती है, जिसमें अमेज़ॅन, ऐप्पल, गूगल, माइक्रोसॉफ्ट और क्राउडस्ट्राइक शामिल हैं, जो साइबर सुरक्षा के लिए हैं।

इस बीच, कुछ दिन पहले ही रिलीज़ किया गया फैबल 5 एक मिथोस संस्करण है जिसमें गार्डरेल या सुरक्षा बाधाएं हैं। यह तकनीक साइबर सुरक्षा और जीव विज्ञान जैसे जोखिम वाले क्षेत्रों में एआई को जवाब देने से रोकने के लिए डिज़ाइन की गई है।

एआई प्रौद्योगिकी के प्रदर्शन की निगरानी करने वाले संस्थान, वैलस एआई के परीक्षण के आधार पर, फैबल 5 को आम जनता के लिए उपलब्ध सबसे उन्नत एआई मॉडल में से एक कहा जाता है।

एक कंपनी के ब्लॉग में, जिसे टेकक्रंच ने भी उद्धृत किया, एंथ्रोपिक ने फेबल 5 के खिलाफ जेलब्रेक के कथित होने से संबंधित सरकार की चिंताओं को उठाया।

AI की दुनिया में, जेलब्रेक एक तकनीक है जिससे AI मॉडल डेवलपर्स द्वारा निर्धारित सुरक्षा नियमों या सीमाओं को पार कर सकता है.

हालांकि, एंथ्रोपिक ने कहा कि सरकार ने अभी तक जेलब्रेक की संभावना के बारे में केवल मौखिक रूप से सबूत दिया है, जो सीमित है और सभी स्थितियों पर लागू नहीं होता है।

एंथ्रोपिक के अनुसार, प्रोग्राम कोड को पढ़ने और सॉफ़्टवेयर कमजोरियों को खोजने की क्षमता वास्तव में ओपनएआई के जीपीटी-5.5 सहित सार्वजनिक रूप से सुलभ अन्य एआई मॉडल पर भी उपलब्ध है। यह क्षमता साइबर सुरक्षा पेशेवरों द्वारा डिजिटल सिस्टम की सुरक्षा के लिए लंबे समय से उपयोग की जा रही है।

एंथ्रोपिक ने यह भी बताया कि उनकी मुख्य सुरक्षा प्रणाली एक स्वतंत्र वर्गीकारक के माध्यम से काम करती है, एक अलग निरीक्षण प्रणाली जो एआई के उत्पादन की निगरानी और छानबीन करती है। इस तंत्र के साथ, खतरनाक माना जाने वाला परिणाम के खिलाफ सुरक्षा तब भी चल सकती है जब मॉडल के शुरुआती अस्वीकार को पार करने का प्रयास किया जाता है।

इसके बावजूद, अमेरिकी सरकार ने निर्णय को लागू किया। एंथ्रोपिक ने इस कदम पर असहमति व्यक्त की।

"हम इस बात से सहमत नहीं हैं कि सीमित जेलब्रेक क्षमता के निष्कर्ष सैकड़ों मिलियन लोगों द्वारा उपयोग किए जाने वाले व्यावसायिक मॉडल को खींचने का कारण बनना चाहिए। यदि इस तरह के मानक पूरे उद्योग में लागू किए जाते हैं, तो सभी उन्नत एआई डेवलपर्स के नए एआई मॉडल लॉन्च को बाधित किया जा सकता है," एंथ्रोपिक ने लिखा।

यह मामला एआई उद्योग में एक बड़े विवाद पर भी प्रकाश डालता है: सुरक्षा कारणों से उन्नत एआई क्षमताओं को किस हद तक सीमित किया जाना चाहिए, और सरकार कैसे तेजी से विकसित हो रही तकनीक को नियंत्रित करती है।

पहले, ओपनएआई के सीईओ सैम ऑलमैन ने एंथ्रोप के तरीके की आलोचना की थी...