JAKARTA - Anthropic ने क्लाउड कोड में छिपे हुए ट्रैकिंग कोड को सुरक्षा शोधकर्ताओं द्वारा उजागर करने के बाद ध्यान आकर्षित किया। कहा जाता है कि कोड चीन में उपयोगकर्ताओं की निगरानी करता है और निष्कर्ष सार्वजनिक रूप से चिंता का विषय बनने के बाद तुरंत हटा दिया जाता है।
Ars Technica से लिया गया, मंगलवार, 7 जुलाई, कोड को वहां के नाम से जाने जाने वाले वेब डेवलपर द्वारा खोजा गया था, जब उन्होंने क्लॉड कोड में गोपनीयता के मुद्दों की जांच की थी। उन्होंने कहा कि ट्रैकिंग स्पाइवेयर जैसा है और "उपयोगकर्ता के विश्वास का गंभीर उल्लंघन" है।
Anthropic का एआई-आधारित टूल, क्लाउड कोड डेवलपर्स को कोड लिखने, पढ़ने और सुधारने में मदद करता है। चूंकि यह उपयोगकर्ता के कंप्यूटर पर फ़ाइलों और आदेशों के करीब काम करता है, इसलिए इस तरह के उपकरण पर चुपके से ट्रैकिंग एक संवेदनशील मुद्दा बन जाता है।
थिरेलो के अनुसार, एंथ्रोपिक सिस्टम में संकेत छिपाने के लिए "प्रॉम्प्ट स्टेगानाग्रफी" तकनीक का उपयोग करता है। सरल शब्दों में, स्टेगानाग्रफी एक सामान्य दिखने वाले स्थान पर एक संदेश या छिपे हुए संकेत को छिपाने का तरीका है।
कोड को खतरनाक नहीं कहा जाता है। हालांकि, यह उपयोगकर्ता द्वारा आसानी से अनदेखा किए बिना एंथ्रोपिक को जानकारी भेजता है। जानकारी में समय क्षेत्र, प्रॉक्सी का उपयोग और एंथ्रोपिक द्वारा डिस्टिलेशन हमले का आरोप लगाए गए चीनी एआई प्रयोगशाला के साथ उपयोगकर्ता के संभावित संबंध शामिल हैं।
X पर, एंथ्रोपिक इंजीनियर थारीक शिहीपर ने स्वीकार किया कि मार्च में "प्रयोग" के रूप में क्लॉड कोड में ट्रैकर जोड़ा गया था। उन्होंने कहा कि कोड अनधिकृत पुनर्विक्रेताओं द्वारा खातों के दुरुपयोग को रोकने और एंथ्रोपिक को डिस्टिलेशन से बचाने के लिए बनाया गया था।
AI में डिस्टिलेशन एक मॉडल के आउटपुट का उपयोग करके एक और मॉडल के विकास को प्रशिक्षित या तेज करने की प्रक्रिया है। यह स्वचालित रूप से अवैध नहीं है, लेकिन यह सेवा की शर्तों का उल्लंघन कर सकता है यदि यह क्लॉड जैसे मॉडल को उनकी क्षमता की नकल करने के लिए लाखों बार प्रतिक्रिया करने के लिए कहने के तरीके से किया जाता है।
शिहीपर ने कहा कि एंथ्रोपिक वास्तव में कोड को हटाने का इरादा रखता है क्योंकि तकनीकी टीम ने अधिक मजबूत सुरक्षा लागू की है।
हालांकि, यह स्पष्टीकरण आलोचना को कम नहीं करता है। गोपनीयता समर्थकों ने आर्थोपिक को सीमा पार कर दिया है क्योंकि यह उपयोगकर्ताओं की निगरानी के लिए छिपे हुए तरीके का चयन करता है। अमेरिकी सरकार द्वारा संयुक्त राज्य अमेरिका में उपयोगकर्ताओं की निगरानी के लिए क्लाउड के उपयोग को अस्वीकार करने के बाद से प्रकाश बढ़ गया है।
Ars Technica ने बताया कि यह तब सामने आया जब अमेरिकी एआई कंपनियां चीन की कंपनियों को रोकने के लिए और भी आक्रामक हो गईं, जिन पर आरोप है कि वे उनके मॉडल की नकल कर रहे हैं। द वाशिंगटन पोस्ट ने बताया कि पिछले एक साल में चीनी कंपनियां केवल कुछ ही महीनों में अमेरिकी मॉडल की क्षमता को बराबर करने में सक्षम थीं।
एंथ्रोपिक ने यह भी कहा कि डिस्टिलेशन हमले को बौद्धिक संपदा चोरी के रूप में माना जाना चाहिए। कंपनी ओपनएआई के साथ मिलकर अमेरिकी सरकार से कानूनी और निर्यात नीति में कठोर कदम उठाने का आग्रह करती है।
इस खोज का प्रभाव सीधे चीन में महसूस किया गया। दक्षिण चीन मॉर्निंग पोस्ट ने बताया कि अलीबाबा ने अपने कर्मचारियों को काम करने के लिए क्लाउड कोड का उपयोग करने से मना कर दिया। SCMP द्वारा समीक्षा की गई एक आंतरिक ज्ञापन में, क्लाउड कोड को "बैक-स्टेज" जोखिम का कारण बताया गया और उच्च जोखिम वाले सॉफ़्टवेयर की सूची में शामिल किया गया।
अलीबाबा ने डिस्टिलेशन से संबंधित एंथ्रोपिक के आरोपों पर कोई टिप्पणी नहीं की है। हालांकि, रायटर ने बताया कि कंपनी को कानूनी और अनुपालन के मुद्दों का सामना करने का खतरा है यदि यह एंथ्रोपिक के प्रावधानों का उल्लंघन करने के लिए पाया जाता है।
Anthropic अब एक मुश्किल स्थिति में है। कंपनी अपने एआई मॉडल को नकल से बचाना चाहती है। हालांकि, चुपचाप तरीका वास्तव में नए मुद्दों, उपयोगकर्ता के विश्वास को खोलता है।
Thereallo ने मूल्यांकन किया कि एंथ्रोपिक वास्तव में अधिक खुले तरीके का चयन कर सकता है। यदि आप क्लॉड के लिए अनधिकृत पहुँच मार्ग या खाते के दुरुपयोग का पता लगाना चाहते हैं, तो कंपनी आधिकारिक विवरण, दस्तावेज़ीकरण या रिलीज़ नोट बना सकती है।
"यह एक खतरनाक सुविधा नहीं है, लेकिन यह डेवलपर उपकरण के लिए एक अजीब विकल्प है जो विश्वास मांगता है," थिरालो ने अपने ब्लॉग पर लिखा।
उन्होंने यह भी याद दिलाया कि एआई-आधारित कोडिंग उपकरण पहले से ही संवेदनशील क्षेत्र में हैं। इस तरह के उपकरण कोड की जांच कर सकते हैं, आदेश चला सकते हैं, पैकेज स्थापित कर सकते हैं, फ़ाइलों को संपादित कर सकते हैं, यहां तक कि उपयोगकर्ता के कंप्यूटर पर प्रतिबद्धता भी बढ़ा सकते हैं।
"प्रॉम्प्ट सिस्टम में सिग्नल छिपाना किसी भी अन्य गोपनीयता दावे को अधिक अविश्वसनीय बनाता है," थिरेलो ने कहा।
Ars Technica ने लिखा, एंथ्रोपिक ने तुरंत अपनी टिप्पणी के अनुरोध का जवाब नहीं दिया। हालांकि, द वाशिंगटन पोस्ट को, एंथ्रोपिक के प्रवक्ता ने कहा कि चीन की प्रयोगशाला द्वारा डिस्टिलेशन हमले राष्ट्रीय सुरक्षा के लिए एक गंभीर खतरा बन गए हैं और उद्योग में एआई सुरक्षा मानकों को नुकसान पहुंचाते हैं।
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
