ब्रिटिश सांसद जेस असातो ने xAI पर मुकदमा चलाया, ग्रोक कथित तौर पर यौन डीपफ़ेक बनाने के लिए इस्तेमाल किया गया था

जकार्ता - इंग्लैंड की संसद के सदस्य जेस असातो ने एलोन मस्क की स्वामित्व वाली आर्टिफीसियल इंटेलिजेंस कंपनी xAI पर मुकदमा दायर किया, जब ग्रॉक चैटबॉट ने कथित तौर पर बिना अनुमति के अपने लिए नकली यौन चित्र और वीडियो बनाने के लिए इस्तेमाल किया।

गुरुवार, 4 जून को द मिरर से उद्धृत, असातो ग्रॉक की आलोचना करने के बाद निशाना बनाया गया। एआई उपकरण का उपयोग महिलाओं और बच्चों की नकली यौन छवियां बनाने के लिए कई उपयोगकर्ताओं द्वारा किया जाता है।

असातो की तस्वीर इंटरनेट से ली गई थी, फिर उसे अपने बिकनी पहने हुए डीपफेक तस्वीर में बदल दिया गया था। डीपफेक एक नकली तस्वीर या वीडियो है जिसे एआई की मदद से बनाया जाता है ताकि यह मूल की तरह दिखाई दे।

एक और वीडियो है जिसमें वह नकली है, जैसे कि वह नशे में है और यौन हिंसा के लिए तैयार है।

लोवेस्टॉफ़्ट से सांसद असातो महिलाओं और लड़कियों पर हिंसा के मुद्दे पर सक्रिय रहे हैं। उन्होंने अन्य मामलों पर भी प्रकाश डाला, जिसमें महिलाओं की तस्वीरें शामिल थीं, जिन्हें डीपफ़ेक पोर्नोग्राफ़ी में बनाया गया था।

"मैं एक्सएआई, एलोन मस्क की कंपनी के खिलाफ कानूनी मुकदमा दायर करता हूं, जिसके पास ग्रॉक है और इसे डिजाइन किया है," असातो ने द मिरर को बताया।

उन्होंने कहा कि उनकी तस्वीर बिना सहमति के इस्तेमाल की गई, फिर महिलाओं को अपमानित करने वाली नकली यौन तस्वीरों और वीडियो में बदल दिया गया।

"मुझे लगता है कि यह बहुत शर्मनाक है और खुद को तोड़ रहा है," उसने कहा।

असातो ने ग्रॉक के प्रभाव को देखकर गुस्सा व्यक्त किया और मूल्यांकन किया कि xAI पर्याप्त सुरक्षा प्रदान नहीं करता है। उनके अनुसार, उनकी ओर से AI द्वारा ली गई तस्वीर को केवल तभी हटाया गया जब उन्होंने एक वकील को नियुक्त किया।

"बिल्कुल सभी लोग ऐसा करने के लिए वकील का भुगतान करने में सक्षम नहीं हैं," उन्होंने कहा।

असातो ने मूल्यांकन किया कि इस तरह की छवियां और वीडियो को शुरू से ही नहीं बनाया जाना चाहिए। उन्होंने कहा कि ग्रॉक जैसे एआई उपकरण महिलाओं और बच्चों की रक्षा के लिए पर्याप्त सुरक्षा के बिना डिज़ाइन किए गए हैं।

"एलोन मस्क जानता है कि ग्रॉक में यह सुरक्षा नहीं है," असातो ने कहा। उन्होंने कहा कि ग्रॉक बनाए जाने के बाद से चेतावनी दी गई थी कि उपकरण का उपयोग कानून के खिलाफ संभावित सामग्री बनाने के लिए किया जा सकता है।

द मिरर के अनुसार, असातो द्वारा एक मुकदमा बुधवार को एक उच्च न्यायालय में दायर किया गया था, जिसमें एक्सएआई एक प्रतिवादी था। यह मामला ग्रॉक के डिजाइन पर केंद्रित है, जिसे सांसदों के चित्रों में हेराफेरी करने की अनुमति देने के लिए मूल्यांकन किया गया था।

यदि यह स्वीकार किया जाता है, तो यह मामला यह जांच सकता है कि एआई डेवलपर्स सिस्टम के डिजाइन के लिए कितने जिम्मेदार हैं जो आसानी से दुर्व्यवहार किया जा सकता है।

असातो ने यह भी उम्मीद जताई कि यह मामला डिजिटल रूम में सहमति के अर्थ पर बहस खोल देगा।

AWO के वकील रवि नाइक, जो असातो का प्रतिनिधित्व करते हैं, ने कहा कि किसी को भी इस तरह के उत्पीड़न का सामना नहीं करना चाहिए। उन्होंने यह भी कहा कि पीड़ित को केवल एक झूठी छवि को हटाने के लिए वकील किराए पर लेना नहीं चाहिए।

"यह सामग्री xAI में इंजीनियरों द्वारा बनाए गए डिज़ाइन विकल्पों के कारण है," नायक ने कहा।

नाइक के अनुसार, एआई के विकास में उपयोगकर्ता की सुरक्षा को बाद में नहीं सोचा जाना चाहिए।

द मिरर ने बताया कि ग्रॉक कांड ने मस्क के एक्स प्लेटफॉर्म पर यौन डीपफेक के प्रकोप के बाद वैश्विक गुस्सा भड़काया।

इंटरनेट वॉच फाउंडेशन, एक बाल यौन शोषण निगरानी एजेंसी, ने कहा कि उसके विश्लेषकों ने ग्रॉक का उपयोग करके बनाए गए बच्चों की अवैध तस्वीरें खोजीं।

ब्रिटेन के प्रधान मंत्री कीयर स्टारमर ने ग्रॉक और एक्स के कार्यों को "घृणित और शर्मनाक" बताया।

ब्रिटेन की टेक्नोलॉजी मंत्री लिज़ केंडल ने ग्रॉक द्वारा बनाई गई छवियों को "उत्पीड़न का हथियार" भी कहा। ब्रिटेन ने तब बिना सहमति के अंतरंग चित्र बनाने या बनाने की कोशिश पर प्रतिबंध लगा दिया।

व्यापक दबाव के बाद, एक्स ने कहा कि वह ब्रिटिश कानून के पूर्ण अनुपालन को सुनिश्चित करने के लिए कदम उठाएगा।