जकार्ता - एआई प्लेटफ़ॉर्म फिर से सुर्खियों में है, जब से ग्रोके चैटबॉट ने बिना सहमति के पोर्नोग्राफ़ी की गहरी सामग्री के प्रकोप के कारण ऐप स्टोर से निकलने का प्रयास किया था।
यह मामला जनरेटिव एआई के विकास की एक अंधेरी तरफ खुलता है - जहां तकनीक को असंभव बनाने के लिए उपयोग किया जाना चाहिए, जिसमें अनधिकृत व्यक्तियों और यहां तक कि किशोरों को शामिल करना शामिल है।
Apple ने हाथ उठाया
रिपोर्ट के अनुसार, ऐप्पल ने ग्रॉक ऐप अपडेट को अस्वीकार कर दिया और अपने डेवलपर, एक्सएआई को चेतावनी दी कि यदि उल्लंघन को तुरंत ठीक नहीं किया जाता है, तो ऐप को हटाया जा सकता है।
अपने संचार में, Apple ने कहा कि हालांकि एक्स प्लेटफ़ॉर्म (पूर्व में ट्विटर) पर कुछ समस्याओं को संबोधित किया गया है, ग्रॉक ऐप अभी भी सामग्री मॉडरेशन मानकों को पूरा नहीं करता है।
कई संशोधनों के बाद, Apple ने अंततः नोट के साथ ऐप अपडेट को मंजूरी दी कि सिस्टम "मोटे तौर पर सुधार" किया गया है।
डीपफ़ेक सामग्री के विस्फोट ने अफरा-तफ़री पैदा की
समस्या तब शुरू हुई जब एक्स प्लेटफ़ॉर्म अश्लील deepfake चित्रों से भर गया, जिसे एआई का उपयोग करके बनाया गया था - उनमें से कई विषयों की सहमति के बिना, यहां तक कि कम उम्र के पीड़ितों को भी शामिल करते हैं।
इस घटना को तब और बढ़ाया गया जब एलोन मस्क ने जनता को ग्रॉक की क्षमता की सीमा का परीक्षण करने के लिए चुनौती दी, जिसने बदले में एक शोषण खोल दिया।
हालांकि अब सीमाएं हैं, उपयोगकर्ताओं ने अभी भी सिस्टम को धोखा देने और फिर भी वर्जित सामग्री बनाने के तरीकों की रिपोर्ट की है।
डबल स्टैंडर्ड?
यह मामला ऐप्पल के लिए आलोचना भी करता है। इस बीच, कंपनी नियमों का उल्लंघन करने वाले ऐप्स को दंडित करने में सख्त रही है - यहां तक कि हल्के उल्लंघन के लिए भी।
तथ्य यह है कि इस घटना के बाद, Apple ने तुरंत कई अन्य ऐप्स को हटा दिया जो इसी तरह के डीपफ़ेक बनाने में शामिल थे। हालांकि, ग्रॉक बने रहे।
यह सवाल उठाता है: क्या एक ऐप के पीछे वित्तीय शक्ति और प्रभाव संयम के निर्णय को प्रभावित करते हैं?
वैश्विक नियामक दबाव बढ़ रहा है
Grok के मामले ने एआई पर नियामक प्रतिबंधों को मजबूत करने के लिए वैश्विक प्रोत्साहन को मजबूत किया, विशेष रूप से खतरनाक सामग्री से संबंधित।
विभिन्न देशों की सरकारें ऐप्पल की ऐप रिव्यू प्रक्रिया पर स्वतंत्र निगरानी की संभावना सहित अधिक सख्त नियमों पर विचार करना शुरू कर रही हैं।
यह घटना एक कठोर अनुस्मारक है कि एआई न केवल नवाचार के बारे में है, बल्कि जिम्मेदारी भी है।
जब तकनीक सेकंड में यथार्थवादी सामग्री बनाई जा सकती है, तब तक रचनात्मकता और कानून के उल्लंघन के बीच की सीमा कम हो जाती है।
VOI Whatsapp Channel का पालन करें
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
