جاكرتا - بدأت OpenAI في إطلاق ضوابط الوالدين ل ChatGPT على الويب والجوال يوم الاثنين 29 سبتمبر. وقد تم ذلك ، في أعقاب دعوى قضائية من والدي مراهق توفي منتحرا بعد أن زعم أن روبوت الدردشة الخاص بشركة الذكاء الاصطناعي الناشئة قام بتدريبه على أساليب إيذاء نفسه.
وتقول الشركة، التي تدعمها مايكروسوفت، إن التحكم يسمح للآباء والأمهات والمراهقين بتفعيل حماية أكثر قوة من خلال ربط حساباتهم. لن يتم تنشيط التحكم الأبوي إلا إذا أرسل أحد الطرفين دعوة وتلقتها الطرف الآخر.
في ظل هذه الخطوات الجديدة ، يمكن للوالدين:
تقليل التعرض للمحتوى الحساس.
التحكم فيما إذا كان ChatGPT يتذكر المحادثات السابقة.
تحديد ما إذا كان يمكن استخدام المحادثات لتدريب نموذج OpenAI.
تعيين ساعات الصمت التي تمنع الوصول لفترة معينة.
تعطيل وضع الصوت وكذلك إنشاء الصور وتحريرها.
ومع ذلك ، أضافت الشركة أن الآباء لن يتمكنوا من الوصول إلى نسخ دردشة المراهقين.
تنص OpenAI على أنه في الحالات النادرة التي يتم فيها تدريب النظام والمراجعين على اكتشاف علامات خطورة على السلامة ، لا يمكن إخطار الآباء إلا بالمعلومات اللازمة لدعم سلامة المراهقين. كما سيتم إخطار الآباء إذا ترك المراهق رابط الحساب.
تقوم OpenAI ، التي لديها حوالي 700 مليون مستخدم نشط أسبوعيا لمنتجات ChatGPT الخاصة بها ، ببناء نظام تنبؤ بالعمر لمساعدتها على التنبؤ بما إذا كان المستخدم دون سن 18 عاما ، بحيث يمكن ل Chatbot تلقائيا تنفيذ الإعدادات المناسبة للمراهقين.
وتأتي هذه الخطوة وسط زيادة الرقابة التنظيمية الأمريكية على شركات الذكاء الاصطناعي بشأن الآثار السلبية المحتملة لأروبوتات الدردشة. في أغسطس ، ذكرت رويترز كيف تسمح قواعد الذكاء الاصطناعي من ميتا بإجراء محادثات جينيت مع الأطفال.
بعد ذلك ، أعلنت Meta أيضا عن حماية جديدة للمراهقين على منتجات الذكاء الاصطناعي الخاصة بها الشهر الماضي ، من خلال تدريب النظام على تجنب المحادثات والمناقشات الصعبة حول إيذاء النفس أو الانتحار مع القصر ، بالإضافة إلى الحد من الوصول مؤقتا إلى شخصيات الذكاء الاصطناعي معينة.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
