غروك آي إيلون ماسك يثير فضيحة عالمية بعد إنتاج صور شير للنساء والأطفال دون سن 18 عامًا
جاكرتا - جاكرتا - تقع خدمة الذكاء الاصطناعي التابعة لإيلون ماسك ، Grok ، في وسط دوامة من الجدل الكبير بعد الكشف عن أنها سهلت إنشاء صور جنسية غير مصرح بها تتضمن النساء والأطفال دون سن الثامنة عشرة.
ووفقا لتقرير التحقيق، يستخدم العديد من المستخدمين الروبوتات الذكاء الاصطناعي المتكاملة مباشرة في منصة X لإجراء "تعديل" أو إزالة ملابس موضوع الصورة الأصلية رقميًا فقط عن طريق إعطاء أوامر نصية بسيطة.
أحد الحالات التي تبرزها جولي يوكاري، الموسيقية البرازيلية، التي وجدت صورتها الشخصية معدلة من قبل مستخدم آخر من خلال Grok إلى صورة شبه عارية ثم انتشرت على المنصة.
أظهر التحليل المتعمق لنشاط Grok أن الأداة تفي بنشاط بطلبات المستخدمين لتغيير ملابس موضوع الصورة إلى ملابس داخلية شفافة، ملابس داخلية، إلى غير ذلك من المواقف الاستفزازية. في مراقبة قصيرة، تم العثور على مئات من محاولات المستخدم التي تستهدف الشابات، والشخصيات العامة، والأطفال.
ومن المحزن أنه عندما بلغت الجدل ذروته ، بدا إيلون ماسك يستجيب لبعض منشورات تحرير الذكاء الاصطناعي مع رموز القلق على حسابه الشخصي ، مما أثار انتقادات حادة بشأن المسؤولية الأخلاقية وأخلاقيات قادة الشركات التكنولوجية تجاه أمن المستخدم.
أثار هذا الفضيحة رد فعل عنيفا من قبل السلطات الدولية. أبلغت الحكومة الفرنسية رسميا X إلى المدعي العام بتهمة نشر محتوى غير قانوني جنساني ومحرض. وفي الوقت نفسه ، وجهت وزارة المعلومات التكنولوجية الهندية تحذيرا قاسيا إلى وحدة X المحلية لأنها اعتبرت فشلت في منع إساءة استخدام الذكاء الاصطناعي لإنشاء محتوى فاحش.
يشدد خبراء الأمن الرقمي من منظمات مثل مشروع Midas على أن هذا الحادث هو "فظاعة يمكن التنبؤ بها"، بالنظر إلى التحذيرات من إمكانية إساءة استخدام تقنية إنشاء صور xAI منذ العام الماضي ، لكن يبدو أنها تم تجاهلها من قبل الشركة.
حتى الآن ، لم تقدم X و xAI أي تفسير تقني لفشل مرشح أمانهم. في بيان قصير ، اتهم xAI تقارير عن انتشار صور جنسية للأطفال على منصتهم بأنها كذبة إعلامية.
ترك تأثير الحادث آثارا عميقة على الضحايا، مثل يوكاري، الذي اعترف بأنه يشعر بالخجل من الجسم الناتج عن هندسة الذكاء الاصطناعي ويشعر بالعجز عن وقف موجة التحرش الرقمي المستمرة في إطار النظام الإيكولوجي الاجتماعي الخاص بموسك.