باريس - فتحت السلطات الفرنسية تحقيقا في انتشار المحتوى الجنسي المزيف الذي أنتجته Grok ، الذكاء الاصطناعي المتكامل مع منصة X. وقد اتخذت هذه الخطوة بعد أن أبلغت المئات من النساء والمراهقين عن صورهم على وسائل التواصل الاجتماعي التي تم تعديلها لتصبح صور عارية دون موافقة.
وقال مكتب المدعي العام في باريس لـ POLITICO إن التحقيق يشمل الآلاف من المحتوى الإباحي غير المتفق عليه الذي تم إنشاؤه باستخدام Grok ويتم توزيعه على نطاق واسع على X. يمكن أن تكون هذه القضية عرضة لعقوبة بالسجن لمدة تصل إلى عامين وغرامة تصل إلى 60000 يورو.
أبلغ عضوان في البرلمان الفرنسي، آرثر ديلابورت وإريك بوتوريل، المدعي العام رسميا بالواقعة في 2 يناير. ورأى الاثنان أن الممارسة تشكل انتهاكا خطيرا للكرامة الإنسانية، خاصة وأنها تستهدف النساء والأطفال دون سن الثامنة عشرة.
وفي رسالة إلى المدعي العام رأتها POLITICO، أكد ديلابورت أن التلاعب بالصور المستندة إلى الذكاء الاصطناعي هو شكل من أشكال العنف الرقمي الذي يقلل من الضحايا ويُنفذ دون موافقة على الإطلاق.
وقال مكتب الشؤون الرقمية الفرنسي إن ثلاثة وزراء قد قدموا تقارير عن المحتوى ، وهما وزير الاقتصاد والصناعة رولاند لسكور ، ووزير الشؤون الرقمية وأمن الإنترنت آن ليهنانف ، ووزير المساواة أورور بيرجي. كما تم تقديم التقرير إلى منصة رصد الإنترنت الحكومية ، فارسوس ، لتشجيع إزالة المحتوى بسرعة.
وأعرب المفوض السامي لحماية الأطفال في فرنسا، سارة الحريرى، عن غضبه من هذه الممارسة، وشدد على الحاجة إلى حماية أشد للأطفال من إساءة استخدام الذكاء الاصطناعى.
وتعزز هذه القضية التحقيقات التي سبق أن فتحتها وحدة الجرائم الإلكترونية الفرنسية ضد X. وشمل التحقيق في البداية نشر محتوى معاد للسامية ونفي المحرقة من قبل Grok، قبل أن يتم توسيعه في نوفمبر.
حتى وقت كتابة هذا التقرير، لم تقدم X أي رد رسمي. في منشور، اعترف حساب Grok بوجود حالات محدودة حيث تمكن المستخدمون من إنشاء صور للطفل AI دون ملابس، على الرغم من أن هذا يقال أنه استثناء.
وقال جروك إن حزبه قد طبّق حراسة، لكنه لا يزال يعمل على إصلاحات لمنع مثل هذه الطلبات تماما. ولم تقدم المفوضية الأوروبية أي تعليقات بشأن القضية.
يعيد هذا القضية الضوء على الجانب المظلم من الذكاء الاصطناعي التوليدي، عندما تحولت التكنولوجيا التي كان من المتوقع أن تكون ثورية إلى أداة لإساءة استخدام جماعية في الفضاء الرقمي.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
