Meta AI Instagram उपयोगकर्ताओं के चेहरे से डीपफेक बना सकता है, इसे अस्वीकार करने का तरीका यहां बताया गया है

JAKARTA - Meta ने Muse Image, एक आर्टिफीसियल इंटेलिजेंस मॉडल जारी किया है जो अन्य लोगों को Instagram उपयोगकर्ता के चेहरे के साथ बहुत यथार्थवादी चित्र बनाने की अनुमति देता है। खतरा मुख्य रूप से 18 वर्ष से अधिक उम्र के उपयोगकर्ताओं को निशाना बनाता है जो सार्वजनिक खाते का उपयोग करते हैं।

CNET ने शनिवार, 11 जुलाई को उद्धृत किया, रिपोर्ट की, Meta AI खाता रखने वाला कोई भी व्यक्ति Instagram उपयोगकर्ता नाम को चित्र बनाने के आदेश में डाल सकता है। परिणाम उपयोगकर्ता के चेहरे को आश्वस्त करने के लिए दिखा सकते हैं, भले ही यह वास्तविक घटना की तस्वीर न हो।

इस मामले में, डीपफ़ेक का अर्थ है एआई द्वारा बनाई गई एक छवि जो किसी व्यक्ति के चेहरे को बहुत यथार्थवादी तरीके से नकल करती है। जिस व्यक्ति का चेहरा उपयोग किया जाता है, वह यह भी नहीं जान सकता है कि उसे किसी और के एआई निर्माण में शामिल किया गया है।

Muse Image Meta के सुपर इंटेलिजेंस लैब द्वारा विकसित Muse Spark परिवार का पहला क्रिएटिव मॉडल है। मॉडल को अधिक जटिल आदेशों को संभालने, कई फ़ोटो को जोड़ने और मौजूदा छवियों को संपादित करने के लिए डिज़ाइन किया गया है।

यह सेवा मेटा एआई, इंस्टाग्राम और व्हाट्सएप ऐप पर पहले से ही उपलब्ध है। मेटा यह भी योजना बना रहा है कि इसे फेसबुक, मैसेंजर और विज्ञापनदाताओं के लिए सेवाओं पर लाया जाए।

CNET ने इस फीचर का परीक्षण दूसरे इंस्टाग्राम यूजर के नाम से किया। डीपफेक तस्वीरें एक मिनट से भी कम समय में बनाई जा सकती हैं।

यह सुविधा तुरंत आलोचना को प्रेरित करती है। अभिनेता संघ SAG-AFTRA ने LA टाइम्स को बताया कि उपयोगकर्ताओं को स्वचालित रूप से फ़ीचर में शामिल करने का निर्णय खतरों और नुकसान के लिए सार्वजनिक रवैये को पढ़ने में एक बड़ी गलती है।

नेशनल सेंटर ऑन सेक्सुअल एक्सप्लिटेशन के कार्यकारी निदेशक हेली मैकनामा ने यह भी सवाल किया कि कैसे इस सुविधा को मंजूरी मिली।

"यह कैसे हरी बत्ती दी जा सकती है? मेटा शोषण, यौन हिंसा, उत्पीड़न और पहचान की धोखाधड़ी के लिए स्पष्ट और अनुमानित अवसर बनाता है," उन्होंने CNet द्वारा उद्धृत कहा।

यह जोखिम निर्माताओं और प्रभावकों के लिए बहुत महसूस किया जाता है। उनके नाम और चेहरे न केवल व्यक्तिगत पहचान हैं, बल्कि ब्रांड और आय का हिस्सा भी हैं।

मेटा ने कहा कि म्यूज इमेज में अवैध, अपमानजनक या अपमानजनक सामग्री बनाने से रोकने के लिए एक सुरक्षा प्रणाली है। हालाँकि, CNET ने नोट किया कि एआई मॉडल की सुरक्षा प्रणाली पहले से ही दुर्भावनापूर्ण उपयोगकर्ताओं द्वारा पारित की जा सकती है।

Instagram पर चेहरे के उपयोग को सीमित करने का तरीका

उपयोगकर्ता दो तरीके चुन सकते हैं। पहला कदम इंस्टाग्राम अकाउंट को निजी में बदलना है।

1. इंस्टाग्राम खोलें और प्रोफ़ाइल पृष्ठ पर जाएं। 2. ऊपरी दाएं कोने में तीन पंक्तियों के आइकन पर टैप करें। 3. खाता गोपनीयता चुनें। 4. निजी खाता सक्रिय करें।

निजी खाते की सामग्री को किसी भी व्यक्ति द्वारा फिर से संसाधित या एआई सामग्री बनाने में उपयोग नहीं किया जा सकता है। हालांकि, खाता खोजने के लिए भी मुश्किल हो जाता है और अन्य उपयोगकर्ताओं के साथ बातचीत सीमित होती है।

क्रिएटर, प्रभावशाली या व्यवसाय करने वाले जो अभी भी सार्वजनिक खाते की आवश्यकता रखते हैं, सामग्री के पुनः उपयोग की अनुमति को बंद कर सकते हैं.

1. इंस्टाग्राम खोलें और प्रोफ़ाइल पृष्ठ पर जाएं। 2. ऊपरी दाएं कोने में तीन पंक्तियों के आइकन पर टैप करें। 3. साझाकरण और पुनः उपयोग अनुभाग में स्क्रॉल करें। 4. Instagram पर और Meta में AI सुविधा के साथ आपकी सामग्री का पुन: उपयोग करने वाले लोगों को अनुमति देने के विकल्प को बंद करें।

यह सेटिंग एआई मेटा सुविधा द्वारा अपलोड और रील्स के उपयोग को सीमित करती है। हालांकि, इस कदम को यह गारंटी नहीं माना जा सकता है कि सभी प्रकार के दुरुपयोग गायब हो जाएंगे।

Meta AI ऐप का उपयोग करने वाले उपयोगकर्ता भी सेटिंग खोल सकते हैं, फिर आपका समानता चुनें। उस हिस्से में, उपयोगकर्ता यह निर्धारित कर सकते हैं कि उनकी समानता का उपयोग कौन कर सकता है, केवल खुद से, अनुमोदित अनुयायियों, एक-दूसरे का अनुसरण करने वाले उपयोगकर्ताओं से लेकर सभी तक।