نظام التحقق من عمر ChatGPT لا يزال يضع تصنيفا خاطئا لحسابات المستخدمين

جاكرتا - أطلقت OpenAI نظام تحقق من العمر الآلي لمستخدمي برنامج الدردشة ChatGPT. هذا النظام موجود للحد من المحتوى الخطير للشباب ، لكن التكنولوجيا لا تعمل بشكل مثالي.

من PC Mag ، اعترفت OpenAI بأن دقة هذه التقنية ليست كاملة. ومع ذلك ، لتعزيز مستوى الدقة ، يحاول النظام تحليل مختلف الإشارات الاستخدامية مثل مدة عمر الحساب ، ومدى نشاط المستخدم في استخدام ChatGPT ، وأنماط التفاعل اليومية.

إذا تم اكتشاف الحساب كشخص تقل أعمارهم عن 18 عامًا ، فسوف يقوم chatbot بتصفية المحتوى الحساس بشكل تلقائي. وتشمل المحتويات المختلفة التي سيتم منعها من حسابات الشباب العنف والمعايير غير الصحية للجمال ، إلى الإجراءات الخطيرة مثل السلوك الذي يضر بنفسه.

للأسف، لا تزال تقنية التنبؤ بالعمر خاطئة في تصنيف حالة المستخدم. إذا تم اكتشاف شخص بالغ كشخص في سن المراهقة، فيمكنه تقديم تقرير إلى OpenAI. ومع ذلك، يجب أن يتبع هذا التقرير بتقديم صورة شخصية عبر Persona، وهو نظام هوية طرف ثالث.

من المؤكد أن دقة هذه الميزة هي مصدر قلق كبير ، خاصة بين خبراء الأمن الرقمي وأولياء الأمور. إذا تم تسجيل حساب ينتمي إلى الأطفال كبالغين ، فقد يسبب مشكلة في المستقبل.

كما انتقد مارك كوبان ، وهو شخصية ورجال أعمال أمريكي ، هذه التكنولوجيا. وفقا لكوبان ، فإن التكنولوجيا التي قدمتها OpenAI لا يمكنها تماما التغلب على مشكلة تعرض الأطفال للمحتوى الإباحي.

والسبب هو أن المراهقين لديهم دائمًا طريقة للخروج من نظام الأمن ، خاصة أن النظام الذي اعترف به لم يكن ناضجا من قبل الشركة. حتى وقت كتابة هذه السطور ، لم تكشف OpenAI عن المدة الزمنية اللازمة لجعل نظام التنبؤ بالعمر في ChatGPT أكثر دقة.

ولا يقتصر مشكلة التنبؤ بالسن غير الصحيح على OpenAI. منذ فترة ، أطلقت Roblox ميزة مماثلة للحد من تفاعلات المستخدمين من الفئات العمرية المختلفة. على سبيل المثال ، لا يمكن للأطفال الذين يبلغون سن الرشد البالغ من العمر 18 عامًا أو أكثر التواصل مع الأطفال دون سن 13 عامًا.

للبقاء على تواصل مع المستخدمين في الفئة العمرية المناسبة ، يجب على جميع المستخدمين التحقق من الهوية والوجه. ومع ذلك ، لا تزال هناك حالات في الماضي حيث أخطأت Roblox تصنيف حسابات معينة ، مثل الحسابات التي ينبغي أن تكون بالغة تصنفها كأطفال أو مراهقين.