जकार्ता - नीदरलैंड में एक अदालत ने एलोन मस्क की कृत्रिम बुद्धिमत्ता तकनीक के खिलाफ एक दुर्लभ लेकिन कठोर फैसला सुनाया। एक अंतरिम फैसले में, एम्स्टर्डम की एक अदालत ने xAI कंपनी और ग्रॉक चैटबॉट को किसी व्यक्ति - वयस्क या बच्चे - के स्पष्ट सहमति के बिना "अपने कपड़े उतारने" वाली छवियों के निर्माण और वितरण को रोकने का आदेश दिया।
यह कदम यूरोप में पहली कानूनी हस्तक्षेप में से एक है जो सीधे गैर-सहमति वाले यौन सामग्री बनाने में एआई की उत्पात क्षमता को लक्षित करता है, जो "न्यूडिफायर" तकनीक के उपयोग में वृद्धि के बीच एक गर्म मुद्दा है।
अदालत ने पुष्टि की कि ग्रॉक को बिना अनुमति के नग्न या आधा नग्न स्थिति में व्यक्तियों को दिखाने वाली छवियां उत्पन्न या प्रसारित नहीं करनी चाहिए। यदि यह उल्लंघन करता है, तो xAI को प्रति दिन 100,000 यूरो तक का जुर्माना लगाया जा सकता है - एक ऐसा नंबर जो सीएफओ को डग-डग कर देता है।
न केवल यह, अदालत ने यह भी आदेश दिया कि जब तक यह शर्तें उल्लंघन नहीं करती हैं, तब तक ग्रॉक सेवा एक्स प्लेटफ़ॉर्म पर उपलब्ध नहीं होनी चाहिए।
यह मामला गैर-लाभकारी संगठन ऑफलिमिट्स द्वारा पीड़ित सहायता निधि के साथ दायर किया गया था, जो डिजिटल आधारित यौन हिंसा के मामलों को संभालने के लिए सक्रिय रहा है। सुनवाई में, अभियोक्ता ने दिखाया कि xAI ने सुरक्षा प्रणाली को कड़ा करने का दावा किया है, फिर भी ग्रॉक अभी भी लोगों की छवियों को बिना अनुमति के यौन सामग्री में बदलने में सक्षम है।
Offlimits के निदेशक, रॉबर्ट होविंग ने कहा कि जिम्मेदारी केवल उपयोगकर्ताओं पर नहीं डाल सकते। "बोझ यह सुनिश्चित करने के लिए कंपनियों पर है कि उनकी तकनीक का दुरुपयोग नहीं किया जाता है," उन्होंने कहा।
दूसरी ओर, xAI पक्ष ने तर्क दिया कि वे दुर्भावनापूर्ण उपयोगकर्ताओं द्वारा दुरुपयोग को पूरी तरह से रोक नहीं सकते। उन्होंने यह भी कहा कि वे कुछ विशेषताओं को सीमित कर चुके हैं, जिसमें केवल भुगतान करने वाले उपयोगकर्ताओं के लिए चित्रों की पीढ़ी तक पहुंच खोलना शामिल है। हालांकि, न्यायाधीश ने पाया कि यह कदम पर्याप्त नहीं था।
यह निर्णय यूरोपीय संघ द्वारा डिजिटल सर्विसेज एक्ट के माध्यम से एआई तकनीक पर कड़ी निगरानी के बीच सामने आया है। वास्तव में, यूरोपीय आयोग ने पहले एक्स प्लेटफ़ॉर्म पर अवैध सामग्री के जोखिम से संबंधित एक जांच खोली थी, जो एआई द्वारा उत्पन्न किया गया था, जिसमें स्पष्ट चित्रों में हेराफेरी भी शामिल थी।
यूरोपीय संसद ने भी नकली यौन चित्र बनाने वाले एआई ऐप पर प्रतिबंध का समर्थन करके तनाव को बढ़ाया - यह दर्शाता है कि यूरोप में "एआई के लिए प्रयोग करने के लिए स्वतंत्र" युग "एआई के लिए कड़ी निगरानी" युग द्वारा प्रतिस्थापित किया जा रहा है।
अधिक व्यापक रूप से, यह निर्णय वैश्विक एआई उद्योग के लिए एक महत्वपूर्ण मिसाल बनने की क्षमता रखता है। यदि यह प्रवृत्ति जारी रहती है, तो तकनीकी कंपनियां अब सिर्फ "हम सिर्फ उपकरण बनाते हैं" कहने के लिए नहीं जा सकतीं - क्योंकि कानून उन्हें उनके प्रभाव के लिए जिम्मेदार होने के लिए देखना शुरू कर रहा है।
VOI Whatsapp Channel का पालन करें
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
