جاكرتا - تعتبر Google Gemini معرضة لخطر كبير على سلامة الأطفال ، حيث تعطي وسائل الإعلام المشتركة Sense تحذيرا
جاكرتا - ارتفعت قضايا سلامة الأطفال مرة أخرى في عالم الذكاء الاصطناعي. هذه المرة ، تم تسليط الضوء على Google Gemini بعد أن أصدرت Common Sense Media ، وهي منظمة غير ربحية تقيم سلامة التكنولوجيا للأطفال ، أحدث تقرير لها. في التقييم ، تم تصنيف Gemini على أنه "عالي المخاطر" أو عالي المخاطر للأطفال والمراهقين.
ويؤكد التقرير أن شركة الجوزاء فشلت في بناء أساس متين من حيث سلامة الأطفال. على الرغم من أن Google قدمت طرقا خاصة "Under 13" و "Teen Experience" ، إلا أنه يعتبر كلاهما يشبه النسخة الكاملة للبالغين فقط مع إضافة فلتر بسيط. من المفترض أن يتم إعادة تصميم الوضع بدقة لتتناسب حقا مع احتياجات الأطفال ، وليس مجرد تكييف من منتجات البالغين.
"يصف Gemini نفسه بأنه "كمبيوتر" وليس "صديقا" عند التحدث إلى الأطفال. ومع ذلك ، فإن هذا النهج لا يزال بعيدا عن كونه كافيا. كان ينبغي بناء سلامة الأطفال منذ البداية، وليس إرفاقه كميزة إضافية".
والأمر الأكثر إثارة للقلق هو أن التقييم قال إن الجوزاء لا يزال بإمكانه تقديم محتوى غير مناسب وخطير على الأطفال، على الرغم من أنهم في وضع خاص. لا يزال المحتوى مثل المعلومات المتعلقة بالمخدرات غير المشروعة والجنس والكحول في المحتوى على الظهور في المحادثات مع القصر.
تقيم Common Sense Media أن Google قد تجاهلت الركائز الأساسية اللازمة في تصميم الأدوات للأطفال والمراهقين. بدلا من فهم أن الجماهير الشابة تحتاج إلى توجيه نهج مختلف عن البالغين ، تعتبر Gemini في الواقع أنها تعطي نفس المعاملة مثل التعديلات الصغيرة فقط.
"إذا كان من المقرر استخدام الذكاء الاصطناعي مثل Gemini في حياة الطفل اليومية ، فيجب على التصميم الانتباه إلى احتياجاتهم التنموية من البداية. من الواضح أن المنتجات التي تم تخصيصها فقط من نسخة البالغين ليست كافية "، قال الخبراء المقتبسون في التقرير.
ويأتي هذا التحذير وسط اهتمام عام متزايد بأمن الذكاء الاصطناعي بعد أن تعثرت ميتا أيضا في حالات مماثلة. منذ بعض الوقت ، تم الإبلاغ عن أن روبوتات الدردشة Meta استخدمت لغة صريحة لمستخدمي القصر ، مما أضاف إلى قائمة طويلة من مخاوف الآباء بشأن استخدام التكنولوجيا الذكاء الاصطناعي من قبل الأطفال.
مع تقييم "على المخاطر العالية" من Common Sense Media ، يطلب من الآباء الآن أن يكونوا أكثر يقظة في تقديم Gemini للأطفال في المنزل. حتى كان هناك تحسن كبير من Google ، يعتبر استخدام الذكاء الاصطناعي هذا لا يزال يحتمل أن يضر بتطور الأطفال والمراهقين.