Grok AI لا تزال تجعل صور جنسية دون إذن ، تنخفض اليد الدولية المنظمة
جاكرتا - كشفت التحقيقات الأخيرة عن ثغرة خطيرة في نظام السلامة الذكي Grok الخاص ب Elon Musk. على الرغم من أنه ادعى أنه نفذ قيودا جديدة ، إلا أن الدردشة الآلية لا تزال قادرة على إنتاج صور ذات نكهة جنسية من الأفراد الحقيقيين دون موافقتهم في عدد من الاختبارات الأخيرة.
هذه النتائج مستمدة من تحقيقات رويترز المباشرة التي أجرت اختبارات على Grok من خلال سلسلة من السيناريوهات الحقيقية. وتبين النتائج أنه في ظل ظروف معينة ، لا يزال Grok قادرًا على تجاوز بروتوكول الأمان الخاص به عندما يطلب إنتاج صور جنسية دون موافقة الموضوع.
"لم يعد الأمر مجرد خطر افتراضي" ، نقلا عن VOI من تقرير رويترز. "تظهر الاختبارات المباشرة أن Grok في بعض الأحيان لا تزال تتبع طلبات تنتهك بوضوح مبادئ الموافقة والخصوصية".
في التجربة ، نشر تسعة صحفيين من رويترز صورًا لأنفسهم وطلبوا من Grok إجراء تعديلات معينة. في البث المباشر ، ذكر الصحفيون صراحة أن الأشخاص الموجودين في الصورة لم يعطوا الإذن ، بل تم تصويرهم في حالة ضعيفة.
في الجولة الأولى من الاختبارات التي أجريت في منتصف يناير ، أنتج Grok صور جنسية في 45 من 55 طلبا. في الجولة الثانية ، من أصل 43 طلبا ، استجاب Grok لا يزال 29 منها. ولاحظت رويترز هذا الانخفاض ، لكنها قالت إنه من غير الواضح ما إذا كان ناجما عن تحديثات النموذج أو العوامل العشوائية فقط.
هذه النتيجة تتعارض بشكل كبير مع استجابة نماذج الذكاء الاصطناعي الأخرى الكبيرة. عندما تم اختبار نفس أو ما يقرب من نفس البرومز على Gemini التابعة لشركة Google ، و ChatGPT التابعة لشركة OpenAI ، و Llama التابعة ل Meta ، رفض الثلاثة الطلب.
وتقدم برامج التجسس المنافسة لـ Grok تحذيرات أخلاقية عامة، مشيرة إلى أن تغيير مظهر شخص ما دون إذن يخالف قواعد الخصوصية ويمكن أن يكون له تأثير نفسي أو خسارة على الفرد المعني.
وفي بعض الاختبارات الأكثر حساسية، استطاع Grok أن يواصل إنتاج الصور حتى عندما تم إخبارهم بأن الموضوع كان ضحية للعنف أو شعرت بالانزعاج من النتائج السابقة. استجابة لهذه النتائج، لم تقدم xAI، الشركة المصنعة لـ Grok، أي تفاصيل فنية دقيقة.
بدلا من ذلك، قدمت الشركة فقط بيان عام. في بعض الحالات عندما رفض Grok الطلب، عرضت المحادثة فقط رسالة خطأ عامة أو بيان قصير بأنها لن تنتج صورة لجسم شخص ما بدون موافقة صريحة.
أثار القضية على الفور رد فعل من المنظمين في العديد من الدول. في المملكة المتحدة، تقيم السلطات ما إذا كانت الممارسة تنتهك قانون السلامة عبر الإنترنت لعام 2023، وهو قانون يسمح بفرض غرامات كبيرة على الشركات التكنولوجية التي تفشل في التحكم في أدواتها الرقمية.
وفي الولايات المتحدة، طلب 35 من المدعين العامين في الولايات توضيحات رسمية من xAI بشأن الإجراءات الوقائية المطبقة. وقد أرسل المدعي العام في كاليفورنيا حتى الآن رسالة تذكيرية توقفية تتعلق بصنع صور صريحة دون موافقة.
وفي الوقت نفسه، أعلنت منصة X عن قيود إضافية لمنع Grok من إنتاج صور جنسية في عمليات النشر العامة. ومع ذلك، تشير تقارير رويترز إلى أن واجهة دردشة روبوت خاصة لا تزال قادرة على إنتاج هذا المحتوى في ظروف معينة.
استجابت المفوضية الأوروبية أيضا بحذر. وتقيم سلطات الاتحاد الأوروبي حاليا فعالية القيود الجديدة كجزء من التحقيق المستمر في امتثال المنصات لقواعد حماية الخصوصية وسلامة المستخدمين.
وتزايدت الضغوط على مطوري الذكاء الاصطناعي. وتطالب الجهات التنظيمية العالمية بإثبات ملموس بأن أنظمة الفرز تعمل حقا، وليس مجرد وعود على الورق.
بالنسبة لـ xAI ، فإن التحدي الرئيسي الآن هو إثبات أن فلسفة Grok المعروفة بأنها أكثر "غير مصنفة" لا تزال متوافقة مع قواعد القانون والأخلاقيات الخاصة والاصول المتعلقة بالموافقة التي تفرضها الجهات التنظيمية في مختلف الدول.