जकार्ता - जब ग्रॉक को इस साल की शुरुआत में विभिन्न देशों से दबाव मिला, तो पता चला कि ऐप्पल भी इस समस्या में शामिल था। वास्तव में, कंपनी ने ग्रॉक को धमकी दी।
Grok द्वारा प्रदान की जाने वाली उन्नत संपादन क्षमताओं के कारण, Apple ने ऐप स्टोर से एआई-आधारित चैटबॉट को हटाने की धमकी दी। Apple के अनुसार, Grok की क्षमता ने अपने ऐप स्टोर दिशानिर्देशों का उल्लंघन किया है।
जैसा कि एक्स प्लेटफ़ॉर्म पर कई लोगों ने पाया है, ग्रॉक का उपयोग फोटो में विषय की प्रामाणिकता को बनाए रखते हुए फोटो को संपादित करने के लिए किया जा सकता है। इससे xAI द्वारा बनाए गए चैटबॉट द्वारा उत्पन्न यौन डीपफ़ेक की उच्च संख्या होती है।
NBC न्यूज द्वारा प्राप्त एक विशेष पत्र के आधार पर, ऐप्पल ने व्यक्तिगत रूप से X और ग्रॉक टीमों पर अपने सामग्री मॉडरेशन सिस्टम को बढ़ाने के लिए दबाव डाला। ऐप्पल ने पाया कि ग्रॉक की सुरक्षा इतनी कमजोर थी कि बिना अनुमति के फोटो के विषय को नग्न करने के लिए इसका बहुत दुरुपयोग किया गया था।
एक्स ने इस आलोचना का जवाब देने के लिए ऐप का अपडेट भेजा, लेकिन एप्पल ने इसे महत्वपूर्ण नहीं माना और इसे अस्वीकार कर दिया। एप्पल ने उपयोगकर्ताओं को खतरनाक सामग्री से बचाने के लिए गहराई से सुधार का अनुरोध किया, खासकर महिलाओं और बच्चों को लक्षित करने वाले।
यहां Apple द्वारा अमेरिकी सीनेटर को Grok में संपादन क्षमता को अस्वीकार करने के बारे में भेजा गया पत्र है।
"हम ग्रोक के आवेदन को अस्वीकार करते हैं और डेवलपर्स को बताते हैं कि उल्लंघन को ठीक करने के लिए अतिरिक्त परिवर्तन आवश्यक होंगे, या ऐप स्टोर से ऐप हटाया जा सकता है।"
इस हटाने की धमकी से यह समझाया जाता है कि xAI संपादन विवादों के बीच अपने उपकरणों के उपयोग के नियमों को कैसे सख्त करता है। परिवर्तनों में पहुंच प्रतिबंध और असली लोगों की तस्वीरों को संपादित करने पर प्रतिबंध शामिल है।
हालाँकि, नवीनतम अपडेट को आखिरकार मंजूरी दे दी गई, हालिया रिपोर्टों से पता चलता है कि ग्रॉक में अभी भी सुरक्षा खामियां हैं। कुछ उपयोगकर्ताओं ने रिपोर्ट किया कि वे अभी भी महिलाओं की छवियों को बहुत खुले कपड़ों के साथ बनाने के लिए सिस्टम को धोखा दे सकते हैं।
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
