شركة OpenAI تتعرض لضربة قانونية من ضحية إطلاق النار بسبب فشل نظامها في منع الهوس لدى المستخدمين

جاكرتا - تم رفع دعوى قضائية ضد OpenAI من قبل امرأة كانت ضحية لاعتداءات وسلوكيات تحرشية. وقد تم تقديم هذه الدعوى إلى محكمة كاليفورنيا العليا لأن ChatGPT يزعم أنه يعزز الهوس الخطير للمرتكب.

يدعي الضحية المعروفة باسم Jane Doe أن OpenAI تجاهلت ثلاثة تحذيرات أرسلتها إلى الشركة. تضمنت التحذيرات الإجراءات التي اتخذها الجاني التي هدد الضحية.

الجاني هو رجل أعمال يبلغ من العمر 53 عامًا يعتقد أنه وجد علاج لخلل النوم عن طريق محادثة مكثفة مع ChatGPT. عندما أصبحت الهوس أكثر حدة ، دعمت نموذج الذكاء الاصطناعي (AI) في الواقع أفكاره.

كما ذكر ChatGPT أن هناك "قوة كبيرة" تراقب الجاني. علاوة على ذلك ، من المعروف أن OpenAI قد أعادت تنشيط حساب الجاني الذي تم تعطيله سابقًا.

في حين أن حساب الجاني تم تمييزه سابقًا كحساب خطير للغاية. وفقا لبيانات الضحية ، استطاع فريق OpenAI الإنساني استعادة حساب الجاني على الرغم من أن الحساب يحتوي على أدلة على أنه يستهدف ويشاهد دو.

"تقدم رسائل المستخدم إشعارا واضحا بأنه يعاني من اضطراب عقلي وأن ChatGPT هو محفز للتفكير الخادع" ، كتب الضحية في شكواه ، نقلت TechCrunch يوم الاثنين ، 13 أبريل.

تم القبض على الجاني بتهمة إرسال تهديدات بالقنابل والهجوم بأسلحة مميتة في يناير الماضي. ومع ذلك ، تم إثبات أنه لا يمكن محاكمته وعلاجه في مرفق صحي عقلي.

وأفادت تقارير بأن OpenAI رفضت طلبا لتسليم سجلات المحادثات الكاملة للمتسببين في الحادث التي كانت مطلوبة لأغراض التحقيق الإضافي. ووافقت الشركة فقط على تعليق حسابات المستخدمين.

وقد تم تسليط الضوء على هذا الإجراء من قبل Edelson PC ، وهي شركة قانونية شاركت أيضا في قضية آدم راين ، وهو مراهق انتحر بعد إجراء محادثات دامت شهورا مع OpenAI.

"في كل حالة ، اختارت OpenAI إخفاء المعلومات الأمنية المهمة من الجمهور ، من الضحايا ، من الأشخاص المعرضين بشكل نشط لخطر منتجاتها". "نطلب منهم ، هذه المرة ، القيام بما هو صائب".