अवैध डीपफ़ेक चल रहा है, ऐप्पल ने ऐप्लिकेशन इकोसिस्टम की देखभाल करने में विफलता का मूल्यांकन किया
जकार्ता - हालिया जांच ने ऐप्पल के मॉडरेशन सिस्टम में एक गंभीर खाई खोली है। एआई आधारित कई ऐप जो पीड़ितों की सहमति के बिना डिपफेक पोर्नोग्राफ़ी सामग्री बनाने में सक्षम हैं, न केवल ऐप स्टोर से गुजरते हैं, बल्कि सक्रिय रूप से विज्ञापन भी करते हैं और उपयोगकर्ता खोज परिणामों में दिखाई देते हैं।
शोध संगठन टेक ट्रांसपेरेंसी प्रोजेक्ट की एक रिपोर्ट में खुलासा किया गया है कि उपयोगकर्ता "डीपफ़ेक" जैसे कीवर्ड टाइप करके किसी व्यक्ति के चेहरे को स्पष्ट सामग्री में हेराफेरी करने के लिए उपयोग किए जाने वाले एप्लिकेशन खोज सकते हैं। अधिक चिंताजनक बात यह है कि कुछ ऐप्स को बच्चों के लिए सुरक्षित आयु रेटिंग भी दी गई है।
यह घटना यह आलोचना को मजबूत करती है कि Apple की ऐप रिव्यू प्रणाली एप्लिकेशन पारिस्थितिकी तंत्र के गार्ड के रूप में अपनी मूल कार्यक्षमता को चलाने में विफल रही है।
App Store में एक बड़ा छेद
शोधकर्ताओं द्वारा किए गए प्रयोगों से पता चलता है कि दुर्व्यवहार कितना आसान है। एक चेहरा स्वैप ऐप उपयोगकर्ताओं को स्पष्ट वीडियो अपलोड करने और किसी अन्य व्यक्ति की तस्वीर के साथ चेहरे को बदलने की अनुमति देता है - बिना किसी चेतावनी, सत्यापन या सीमा के।
कोई सूचना नहीं है, कोई सामग्री फ़िल्टर नहीं है, यहां तक कि कोई बुनियादी निवारण तंत्र भी नहीं है। कानून और नैतिकता के संदर्भ में, यह स्पष्ट रूप से एक संभावित गोपनीयता उल्लंघन और डिजिटल शोषण के दरवाजे खोलने के लिए एक ग्रे क्षेत्र में है।
समस्या केवल तकनीक नहीं है, बल्कि बड़े प्लेटफ़ॉर्म द्वारा सुविधा प्रदान की गई वितरण है।
विज्ञापन जारी है
स्थिति को और बेतुका बनाने के लिए, ये ऐप्स ऐप स्टोर के भुगतान किए गए विज्ञापन स्लॉट में भी दिखाई देते हैं। इसका मतलब है कि डेवलपर्स न केवल क्यूरेटिंग से बचते हैं, बल्कि उपयोगकर्ताओं को सीधे दृश्यता भी खरीद सकते हैं।
जांच डेटा से पता चलता है कि लगभग 31 "न्यूडिफ़" ऐप सक्रिय पाए गए, जिनकी कुल डाउनलोड सैकड़ों मिलियन बार और संयुक्त राजस्व 120 मिलियन डॉलर से अधिक था।
अप्रत्यक्ष रूप से, Apple भी इस पारिस्थितिकी तंत्र से राजस्व का आनंद लेता है - एक ऐसी स्थिति जो वैश्विक नियामकों द्वारा डिजिटल प्लेटफॉर्म पर बढ़ते दबाव के बीच एक बमबारी हो सकती है।
यह पहला मामला नहीं है
इससे पहले, ऐप्पल ने दर्जनों समान ऐप हटा दिए थे और यहां तक कि एक्सएआई जैसे एआई कंपनियों को अपने ऐप में डीपफ़ेक समस्याओं के बारे में चेतावनी दी थी।
हालाँकि, हालिया निष्कर्ष बताते हैं कि यह कदम पर्याप्त नहीं है। संयम प्रतिक्रियाशील प्रतीत होता है, न कि निवारक।
जबकि, डीपफ़ेक तकनीक तेजी से विकसित हो रही है और मूल सामग्री से अलग करना मुश्किल हो रहा है - इसे गलत हाथों में गिरने पर एक खतरनाक उपकरण बनाते हैं।
यह मामला ऐसे समय में सामने आया है जब विभिन्न देशों की सरकारें एआई सामग्री, विशेष रूप से यौन शोषण और व्यक्तिगत गोपनीयता के बारे में सख्त नियम बना रही हैं।
यदि Apple अपनी प्रणाली को ठीक करने में विफल रहता है, तो यह संभव नहीं है कि नियामक हस्तक्षेप और भी आक्रामक हो - जिसमें ऐप रिव्यू प्रक्रिया पर बाहरी निरीक्षण की संभावना शामिल है।
डीपफेक समस्या इंटरनेट मंच पर एक आला मुद्दा नहीं है। यह मुख्यधारा के मंच में प्रवेश कर चुका है, एक क्लिक में उपलब्ध है, और - विडंबना यह है - प्रचारित किया जाता है।
VOI Whatsapp Channel का पालन करें