جاكرتا - أكدت أمازون أنها وجدت محتوى إباحي للأطفال (محتوى الاعتداء الجنسي على الأطفال/CSAM) أثناء استعراض بيانات تدريب الذكاء الاصطناعي (AI) المستمدة من مصادر خارجية. تم الإبلاغ عن النتائج إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) في الولايات المتحدة.
نقلا عن تقرير بلومبرغ ، تلقى NCMEC أكثر من مليون تقرير متعلق بالدعم الذكي للذكاء الاصطناعي في عام 2025 ، مع معظم التقارير من أمازون. وذكرت الشركة أن المحتوى تم اكتشافه أثناء عملية فحص البيانات من أطراف ثالثة التي تستخدمها لتدريب أنظمة الذكاء الاصطناعي الخاصة بها.
ومع ذلك ، يرى NCMEC أن تقرير Amazon بارز بسبب نقص المعلومات عن المصدر. وقال المدير التنفيذي ل NCMEC ، فالون ماكنتي ، إن التقارير الواردة من الشركات التكنولوجية عادة ما تتضمن تفاصيل كافية حتى يتمكن المشرعون من متابعة الأمر. في حالة Amazon ، فإن عدم وجود معلومات عن مصدر المحتوى يجعل التقرير صعبا لاستخدامها في التحقيقات.
ووفقا لما ذكرته ماكنتي، فإن هذا الوضع يثير تساؤلات خطيرة بشأن عملية جمع البيانات للتدريب على الذكاء الاصطناعي ويؤكد الحاجة إلى معايير مراقبة وأنظمة أمنية أكثر صرامة في جميع منصات التكنولوجيا.
وردا على الانتقادات، قالت أمازون إنها تستخدم قواعد مسح واسعة عند مراجعة بيانات التدريب، والتي يمكن أن تنتج كميات كبيرة من الإيجابيات الكاذبة. أكدت أمازون أيضا عدم وجود دليل على أن CSAM يستخدم فعلا في تدريب نماذج الذكاء الاصطناعي الخاصة بها.
وأوضحت الشركة أن التقرير تم تقديمه من خلال نظام منفصل لأن البيانات تأتي من طرف ثالث ولا تشمل معلومات المستخدم، لذلك لا يمكن إرفاق تفاصيل المصدر.
تؤكد أمازون التزامها بتطوير الذكاء الاصطناعي المسؤول وحماية سلامة الأطفال. لا تزال قضايا الأخلاقيات والأمن في تطوير الذكاء الاصطناعي نفسها تحت الضوء، حيث تم توجيه عدد من الدعاوى القضائية ضد شركات التكنولوجيا الأخرى مثل OpenAI و Character.AI و Meta فيما يتعلق باستخدام البيانات وحماية المستخدمين.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
