الذكاء الاصطناعي تيدي خطير على الأطفال ، OpenAI يقطع الوصول مباشرة
جاكرتا - تحولت الدمى الطيبة التي كان من المفترض أن تكون زميلة لتعلم الأطفال الصغار إلى نجمة رعب صغيرة على الإنترنت. تدعى الدمى كوما ، التي صنعتها شركة FoloToy الصينية ، وتديرها طراز GPT-4o. على الورق يبدو مضحكا ، ولكن من الناحية العملية يجعل من الرعب حتى يطلق عليه مستخدمو الإنترنت "ChuckyGPT".
كشفت مجموعة المستهلكين الأمريكية PIRG ، وهي مجموعة مستهلكين في الولايات المتحدة ، عن هذه النتيجة في التقرير السنوي عن مشكلة في تويلاند. عند اختباره ، قدم كوما خطوات مفصلة لتشغيل الأوعية عندما سئل عن العبث بالنار. والأسوأ من ذلك، أجابت هذه الدمية أيضا على أسئلة الرائحة الجنسية دون تصفية ذات مغزى. كما يتم التشكيك في الميكروفونات التي تعمل دائما ، لأنه قد يتم جمع تسجيلات صوت الأطفال ولديها القدرة على إساءة استخدامها ، بما في ذلك الاحتيال الصوتي.
بمجرد أن انفجرت النتائج على Reddit ، ارتفعت التعليقات على الفور. يعتبر الكثيرون هذا سيناريو "تنفيس الذكاء الاصطناعي" ، ويكهن البعض بأن النموذج قد يكون منزعجا. لا توجد أدلة قوية حتى الآن ، لكن السرد ينتشر على نطاق واسع.
يتحرك OpenAI بسرعة. أكد متحدث باسم الشركة أن مطوري Kumma تم تعليقهم على الفور لانتهاكهم السياسة ، وقطعوا تلقائيا وصول API للدمية. بدون دماغ الذكاء الاصطناعي ، فإن Kumma عملية لتصبح تيدي هامش عادية.
وأعلنت شركة فولو توي في وقت لاحق عن وقف إجمالي للمبيعات مع إجراء تدقيق أمني شامل. لا تزال منتجات Kumma تظهر على موقعها الرسمي ، لكن وضعها تحول إلى "مبيعات خارج البيع".
يوضح هذا الحادث شيئا واحدا: إن وضع نموذج لغة متقدم في ألعاب الأطفال دون سياج أمان ضيق للغاية هو ببساطة إعداد دراما تكنولوجية غير مرغوب فيها. ما تم تكريسه في الأصل كصديق للتعلم المضحك ينتهي في الواقع بتذكير بمدى سرعة الذكاء الاصطناعي التي يمكن أن تتلمس إذا تم تنفيذ خطأ. قد يركض العالم مدخلا الذكاء الاصطناعي إلى كل شيء ، لكن حالة كوما تشير إلى أن بعض الأشياء - وخاصة دمى الأطفال - يجب التفكير فيها مرتين قبل المشاركة في القضية.