बोल्टिमोर ने ग्रॉक एआई द्वारा यौन डीपफ़ेक सामग्री के प्रसार के आरोपों पर एक्स पर मुकदमा दायर किया

जकार्ता - बाल्टीमोर नगर सरकार ने एलोन मस्क की कंपनियों के खिलाफ एक मुकदमा दायर किया, जिसमें X कॉर्प, xAI और स्पेसएक्स शामिल हैं, कथित रूप से अपने कृत्रिम बुद्धिमत्ता (एआई) उपकरणों के दुरुपयोग से संबंधित है, जो बिना सहमति के यौन गहन सामग्री उत्पन्न करता है।

24 मार्च को बाल्टीमोर सर्किट कोर्ट में दायर किया गया, मुकदमा ने कहा कि ग्रॉक, उपयोगकर्ताओं को वास्तविक लोगों की छवियों को यौन रूप से स्पष्ट, अपमानजनक या अन्यथा खतरनाक सामग्री में उत्पन्न करने और हेराफेरी करने की अनुमति देता है।

यह सुविधा यहां तक कि "डिजिटल रूप से कपड़े उतारने" या नागरिकों और बच्चों सहित व्यक्तियों के खिलाफ यौनकरण करने के लिए इस्तेमाल किया जा सकता है।

बोल्टिमोर के मेयर ब्रैंडन एम. स्कॉट ने कहा कि इस तरह के डीपफ़ेक का प्रभाव बहुत गंभीर है, जिससे बोल्टिमोर के निवासियों को गंभीर निजता उल्लंघन, उत्पीड़न और मनोवैज्ञानिक नुकसान का शिकार बना दिया गया है।

"हम एक तकनीकी कंपनी के बारे में बात कर रहे हैं जो बच्चों के यौन शोषण की अनुमति देती है। हमारा शहर चुप नहीं बैठेगा और इसे जारी रखने देगा, यह गोपनीयता, सम्मान और सार्वजनिक सुरक्षा के लिए एक खतरा है, और जिम्मेदार लोगों को जवाबदेह ठहराया जाना चाहिए," स्कॉट ने एक आधिकारिक बयान में कहा।

इसके अलावा, शहर ने मूल्यांकन किया कि अपीलकर्ता जनता को गुमराह करते हैं, जब वे ग्रोको को एक सुरक्षित और बहुमुखी एआई सहायक के रूप में विपणन करते हैं, बिना स्पष्ट सामग्री बनाने के लिए दुरुपयोग की संभावना को उजागर करते हैं।

हालांकि, सार्वजनिक दावे हैं कि इस तरह की सामग्री पर प्रतिबंध लगाया गया है, लेकिन व्यवहार में, सिस्टम को उपयोगकर्ता से थोड़ी सी आदेश के साथ समान सामग्री का उत्पादन करने के लिए कहा जाता है।

"बाल्टीमोर उपभोक्ता संरक्षण कानून इस तरह के नए प्रकार के खतरों से नागरिकों की रक्षा के लिए है," सिटी अटॉर्नी, एबनी एम थॉम्पसन ने कहा।

उन्होंने जोर दिया कि सरकार के पास नई तकनीकों के जोखिम से नागरिकों की रक्षा करने का दायित्व है। उन्होंने कहा कि सीमाओं, आयु सत्यापन और सामग्री नियंत्रण की कमी गंभीर लापरवाही का रूप है।

दस्तावेज़ में कहा गया है कि ग्रॉक के डिजाइन और बड़े सोशल मीडिया प्लेटफॉर्म के साथ एकीकरण ने खतरनाक सामग्री के बड़े पैमाने पर प्रसार को तेज कर दिया है।

अनुमान है कि केवल कुछ ही दिनों में लाखों यौन चित्र बनाए गए, जिसमें हजारों ऐसे भी शामिल हैं जिनमें नाबालिग शामिल हैं।

बोल्टिमोर नगरपालिका सरकार ने यह भी आरोप लगाया कि कंपनी ने उच्च जोखिम वाले सुविधाओं से लाभ कमाया, जिसमें भुगतान किया गया सदस्यता योजना के पीछे रखना शामिल था, जब तक कि दुरुपयोग व्यापक रूप से नहीं हुआ।

इस मुकदमे के माध्यम से, बाल्टीमोर ने नागरिक दंड, कानून के खिलाफ माना जाने वाला अभ्यास को रोकने, पीड़ितों के लिए मुआवजा और अवैध रूप से अर्जित लाभ की वापसी की मांग की।