جاكرتا - أطلقت ميتا موزي إمجيج، وهي نموذج ذكاء اصطناعي يسمح للآخرين بصنع صور واقعية للغاية مع وجوه مستخدمي Instagram. وتلتهم المخاطر بشكل خاص المستخدمين الذين تزيد أعمارهم عن 18 عامًا الذين يستخدمون حسابات عامة.
ذكرت CNET يوم السبت 11 يوليو ، أن أي شخص لديه حساب Meta AI يمكنه إدخال اسم مستخدم Instagram في أمر إنشاء صورة. يمكن أن تظهر النتيجة وجه المستخدم بشكل مقنع ، على الرغم من أن الصورة ليست صورة الحادث الفعلي.
في هذه الحالة ، يشير deepfake إلى صور مصممة بواسطة الذكاء الاصطناعي والتي تحاكي وجه شخص ما بشكل واقعي للغاية. يمكن حتى للشخص الذي يتم استخدامه في وجهه لا يدرك أنه قد تم إدخاله في خلق شخص آخر بواسطة الذكاء الاصطناعي.
Muse Image هي أول نموذج إبداعي من عائلة Muse Spark التي تم تطويرها من قبل مختبر Meta للذكاء الاصطناعي. تم تصميم النموذج للتعامل مع أوامر أكثر تعقيدا، ودمج عدة صور، وتحرير الصور الموجودة.
وهي متوفرة بالفعل في تطبيقات Meta AI و Instagram و WhatsApp. وتخطط Meta أيضًا لإحضارها إلى Facebook و Messenger وخدمات المعلنين.
اختبر CNET هذه الميزة عن طريق إدخال اسم مستخدم آخر على Instagram. يمكن إنشاء صور deepfake في أقل من دقيقة واحدة.
وأثار هذا التسهيل على الفور انتقادات. وقال اتحاد الممثلين SAG-AFTRA لصحيفة LA Times إن قرار إدخال المستخدمين تلقائيا في هذه الميزة كان خطأ فادحا في قراءة موقف الجمهور من المخاطر والخسائر التي يمكن أن تنشأ.
كما تساءلت هالي ماكنمارا، المديرة التنفيذية للمركز الوطني للاستغلال الجنسي، عن كيفية الحصول على موافقة على الميزة.
"كيف يمكن أن يتم إعطاء هذا الضوء الأخضر؟ إن ميتا تخلق فرصا واضحة ويمكن التنبؤ بها للاستغلال والعنف الجنسي والتحرش والاحتيال الهوية" ، قال.
هذا الخطر ملموس للغاية بالنسبة للمبدعين والمؤثرين. ليس اسمهم وجوههم هوية شخصية فحسب ، بل جزء من العلامات التجارية ومصادر الدخل.
قالت ميتا إن Muse Image لديها نظام أمان لمنع إنشاء محتوى غير قانوني أو فظ أو مسيء. ومع ذلك ، لاحظت CNET أن أنظمة الأمان في نماذج الذكاء الاصطناعي الأخرى يمكن أن يتم تجاوزها من قبل المستخدمين الذين لديهم نوايا سيئة.
كيفية الحد من استخدام الوجه على Instagram
يمكن للمستخدمين اختيار الطريقتين. الخطوة الأولى هي تغيير حساب Instagram إلى خاص.
1. افتح Instagram وقم بتسجيل الدخول إلى صفحة الملف الشخصي. 2. انقر على رمز الخط الثلاثة في الزاوية اليمنى العليا. 3. حدد خصوصية الحساب. 4. قم بتشغيل حساب خاص.
لا يمكن الوصول إلى محتوى الحسابات الخاصة من قبل أي شخص لمعالجتها أو استخدامها في إنشاء محتوى الذكاء الاصطناعي. ومع ذلك ، يصبح العثور على الحسابات أصعب وأي تعاملات مع مستخدمين آخرين أكثر محدودية.
يمكن للمبدعين والمؤثرين والأعمال التجارية التي لا تزال تحتاج إلى حساب عام تعطيل إذن إعادة استخدام المحتوى.
1. افتح Instagram وقم بالدخول إلى صفحة الملف الشخصي. 2. انقر على رمز الخط الثلاثة في الزاوية اليمنى العليا. 3. انتقل إلى قسم المشاركة وإعادة الاستخدام. 4. قم بتعطيل خيار السماح للأشخاص باستعادة المحتوى الخاص بك على Instagram ومع ميزة الذكاء الاصطناعي في Meta.
وتقيّد هذه الإعدادات استخدام التحميلات والرّيّلز بواسطة ميزة Meta AI. ومع ذلك، لا يمكن اعتبار هذه الخطوة ضمانة بأن جميع أشكال الإساءة ستختفي.
يمكن للمستخدمين أيضًا فتح الإعدادات ثم تحديد "أشكالك". في هذا القسم ، يمكن للمستخدمين تحديد من يمكنه استخدام صورهم ، بدءا من أنفسهم فقط ، أو المتابعين المعتمدين ، أو المستخدمين المتابعين لبعضهم البعض ، أو الجميع.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)