جاكرتا - أرسلت مكتب المدعي العام في كاليفورنيا رسميا أمرا توقفيا أو توقفيا إلى xAI ، وهي شركة الذكاء الاصطناعي المملوكة لإيلون ماسك. وقد تم ذلك في أعقاب ادعاءات استخدام chatbot Grok لإنشاء محتوى جنسي deepfake دون موافقة ، بما في ذلك المحتوى الذي يشتمل على النساء والأطفال دون سن الثامنة عشرة.
وأعلن هذا الإجراء القاسي يوم الجمعة بالتوقيت المحلي، بعد أيام قليلة من قيام السلطات في كاليفورنيا بفتح تحقيق في xAI. واعتبرت الحكومة أن هذه الممارسة تنتهك القانون ويمكن أن تسهل نشر المواد الإباحية للأطفال أو المواد الإباحية للأطفال (CSAM).
"اليوم، أرسلت رسالة توقف وتوقف إلى xAI، مطالبة الشركة بالتوقف فورا عن إنتاج وتوزيع صور غير متوافقة غير متوافقة على أساس deepfake والمواد الإباحية للأطفال". قال المدعي العام في كاليفورنيا روب بونتا في بيان صحفي رسمي. "إن إنتاج هذه المواد غير قانوني. آمل تماما أن تمتثل xAI على الفور. كاليفورنيا لديها عدم التسامح مطلقا مع CSAM".
ووفقًا لمكتب المدعي العام، يشتبه في أن xAI لا تقتصر على التلاعب، ولكن "تسهل الإنتاج على نطاق واسع" لصور عارية غير متفق عليها. ووفقًا لما قاله، استخدمت المواد لإيذاء النساء والفتيات على منصات الإنترنت المختلفة. وفرضت السلطات مهلة مدتها خمسة أيام على xAI لإثبات أنها اتخذت خطوات ملموسة لوقف هذه الممارسة.
وتتمحور النقطة الرئيسية حول ميزة "الوضع الحار" في Grok ، والتي صممت صراحة لإنتاج محتوى بالغ. هذا هو الميزة التي يقال إنها تفتح فجوة كبيرة لإنشاء مقطع فيديو جنسي دون إذن. على الرغم من أن xAI ادعى أنه شدد القيود على ميزة تحرير الصور منذ يوم الأربعاء الماضي ، إلا أن هذه الخطوة لم تكن كافية من قبل سلطات كاليفورنيا.
لم تعد مشكلة Grok الآن محلية النطاق. أفادت تقارير بأن اليابان وكندا والمملكة المتحدة قد فتحت تحقيقات مماثلة. وفي الوقت نفسه ، اختارت ماليزيا وإندونيسيا خطوة سريعة من خلال حظر المنصة بشكل مؤقت. مع تصاعد هذا التوتر العالمي ، تزداد الضغوط على xAI ، وليس فقط من قبل المنظمين في الولايات المتحدة.
حاول حساب السلامة X سابقًا الابتعاد عن النشاط غير القانوني للمستخدم. "أي شخص يستخدم أو يأمر Grok لإنشاء محتوى غير قانوني سيواجه نفس العواقب كما لو كانوا يرفعون محتوى غير قانوني" ، كتب الحساب. لكن هذا البيان لم يكن كافيا لإخماد الانتقادات.
وانتهت محاولات وسائل الإعلام للحصول على رد رسمي من xAI إلى طريق مسدود. كما ذكرت TechCrunch أن طلباتها للتعليق لم تلق سوى رسالة إلكترونية تلقائية تقول "أكاذيب وسائل الإعلام القديمة". وأكد مكتب المدعي العام في كاليفورنيا نفسه أنه مستعد لتقديم سياق إضافي بشأن القضية.
تضيف قضية Grok قائمة طويلة من القضايا الأخلاقية في عصر الذكاء الاصطناعي التوليدي المجاني. أصبح الارتفاع في المحتوى الجنسي غير التوافقي مشكلة عبر منصات متعددة ، وليس فقط ملكية X. وقد جذب هذا الموضوع حتى انتباه الكونجرس الأمريكي. في يوم الخميس 15 يناير ، أرسل عدد من أعضاء الكونغرس رسالة إلى مسؤولي شركات التكنولوجيا الكبرى مثل X و Reddit و Snap و TikTok و Alphabet و Meta ، تساءلوا عن استراتيجياتهم للحد من انتشار التزييف الجنسي.
بالنسبة للمنظمين ، الرسالة واضحة: يمكن أن تتقدم الابتكارات في مجال الذكاء الاصطناعي بسرعة كبيرة ، ولكن يجب أن تعمل الفرامل القانونية. وإلا ، فإن التكنولوجيا التي من المفترض أن تكون ذكية تحولت إلى أداة لإساءة معاملة جماعية.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
العلامات الأكثر شيوعًا
#Prabowo Subianto #دونالد ترمب #حج 2022 #public school #bgn #konflik timur tengahجمع
