محكمة هولندية Grok Law: يحظر الذكاء الاصطناعي التقاط صور عارية بدون إذن
جاكرتا - قضت محكمة في هولندا بحكم نادر ولكنه قاسي ضد تكنولوجيا الذكاء الاصطناعي التي يملكها إيلون ماسك. في قرار مؤقت ، أمرت محكمة أمستردام شركة xAI و chatbot Grok بوقف إنشاء وتوزيع الصور التي "تنزع ملابس" شخص - بالغ أو طفل - دون موافقة صريحة.
وتعد هذه الخطوة واحدة من التدخلات القانونية الأولى في أوروبا التي تستهدف مباشرة القدرة الإبداعية للذكاء الاصطناعي على إنشاء محتوى جنسي غير متفق عليه، وهو موضوع ساخن وسط ارتفاع استخدام تقنية "nudifier".
وأكدت المحكمة أنه لا يجوز لـ Grok إنتاج أو نشر صور تعرض الأفراد في حالة عارية أو شبه عارية دون إذن. إذا انتهكت ، فإن xAI معرضة لعقوبة تصل إلى 100,000 يورو في اليوم - وهو رقم يجعل المدير المالي يشعر بالقلق.
وليس هذا فحسب ، بل أمرت المحكمة أيضا بأن خدمة Grok لا يجب أن تكون متاحة على منصة X طالما أنها لا تزال تنتهك الشروط.
وقد قدمت القضية منظمة Offlimits غير الربحية مع صندوق دعم الضحايا، الذي كان نشطا في التعامل مع حالات العنف الجنسي الرقمي. في جلسة الاستماع، أظهر المدعون أن Grok لا يزال قادرا على التلاعب بالصور الشخصية إلى محتوى جنسي دون إذن، حتى بعد أن ادعى xAI أنه شدد نظام الأمان.
وقال مدير Offlimits ، روبرت هوينغ ، إن المسؤولية لا يمكن تحويلها إلى المستخدمين فقط. "إن العبء يقع على الشركة لضمان عدم إساءة استخدام تقنيتها" ، قال.
من ناحية أخرى ، جادل xAI بأنه لا يمكنه منع إساءة الاستخدام بالكامل من قبل المستخدمين الضارين. كما ذكروا أنهما قيدتا ميزات معينة ، بما في ذلك فتح الوصول إلى جيل الصور فقط للمستخدمين المدفوعين. ومع ذلك ، اعتبر القاضي هذه الخطوة غير كافية.
يأتي هذا القرار وسط مراقبة دقيقة من الاتحاد الأوروبي للتكنولوجيا الذكاء الاصطناعي من خلال قانون الخدمات الرقمية. في الواقع ، كانت المفوضية الأوروبية قد فتحت سابقاً تحقيقاً في منصة X فيما يتعلق بمخاطر المحتوى غير القانوني الذي تنتجه الذكاء الاصطناعي ، بما في ذلك التلاعب بالصور الصريحة.
كما ساهم البرلمان الأوروبي في زيادة التوتر من خلال دعم حظر تطبيقات الذكاء الاصطناعي التي يمكن أن تجعل الصور الجنسية مزيفة - مما يشير إلى أن عصر "الذكاء الاصطناعي الحر في التجريب" في أوروبا بدأ يتحول إلى عصر "الذكاء الاصطناعي الخاضع للرقابة".
على نطاق أوسع، يمكن أن يكون هذا الحكم سابقة مهمة للصناعة العالمية للذكاء الاصطناعي. إذا استمر هذا الاتجاه، فلن تتمكن شركات التكنولوجيا من مجرد قول "نحن فقط نصنع أدوات" - لأن القانون يبدأ في النظر إليها على أنها طرف مسؤول عن تأثيرها.
تابع قناة WhatsApp VOI