جاكرتا - يتم الإشادة بجوجل مرة أخرى بقدرات Gemini 3 Pro الخام التي تزداد حيوية ، لكن تقارير جديدة من كوريا الجنوبية ضربت فجأة الرواية بنبرة من اليقظة.
وفقا لصحيفة Maeil Business Newspaper ، تدعي شركة أمن الذكاء الاصطناعي تدعى Aim Intelligence أنها نجحت في اختراق النموذج وجعلها تسمح لها بتقديم إجابات حول كيفية تشكيل تهديد بيولوجي وسلاح مجمع - وهي منطقة كان ينبغي أن تكون وراء الجدار الحديدي للنظام الأمني.
قالت Aim Intelligence إنه في الاختبار البيئي الخاضع للرقابة ، لم ينزلق Gemini 3 Pro فحسب ، بل أجاب حقا على التفاصيل التي كان ينبغي حظرها تماما من قبل نماذج ذات معايير أمنية صارمة.
وذكر التقرير أيضا أن هذا النموذج ، بعد أن تم استفزازه بمعروض ترويجي إضافي ، قدم عرضا تقديميا غريبا بعنوان "Excused Stupid Gemini 3" ، مثل حرق ذاتي لم يطلب منه أبدا.
ولم ينشر أي مخرج أو طريقة واحدة، وبالتالي فإن مستوى المصداقية وما إذا كان يمكن تكرار التجربة لا يمكن التحقق منه على الإطلاق. وبدون برومتس، وبدون وثائق فنية، فإن النتيجة هي مجرد ادعاء أحادي الجانب يتطلب أدلة صارمة قبل اعتبارها صالحة.
ومع ذلك ، فإن الادعاءات تأتي في نقطة حساسة في عالم الذكاء الاصطناعي: كلما كانت النماذج أكثر ذكاء ، كلما زادت صعوبة التأكد من أنها لا تزال مطيعة على المسار الآمن. وكانت العديد من الحوادث الأخيرة - من نماذج التي أجابت على أسئلة خطيرة عندما تم تستر على أسئلتها في الشعر، إلى الأدوات القائمة على الذكاء الاصطناعي التي تقدم عن طريق الخطأ محتوى غير مناسب للأطفال. وهذا يدل على أن علامات الحراسة الأنيقة على الورق لا تزال قادرة على الاستيلاء عليها عندما يتم قمع النماذج بطرق غير متوقعة.
تقوم Google نفسها بوضع Gemini 3 Pro كواحد من أكثر منتجاتها تطورا ، مع التركيز بشكل كبير على الأمان. لكن التقرير الصادر عن كوريا الجنوبية يضيف ضغطا: يريد الجمهور أدلة حقيقية على أن النظام آمن تماما ، حتى في أكثر السيناريوهات عدوانية ، ليس فقط أثناء تنسيق العرض الصحفي.
في الوقت الحالي ، هناك المزيد من الأسئلة من الإجابات. تحتاج Google إلى فتح تفسير ، ويجب أن يكون الباحثون الذين يدعون أن هذا الاكتشاف شفافين إذا كانوا يريدون الوثوق بهم. يتحرك عالم الذكاء الاصطناعي بسرعة ، لكن ثقة الجمهور أسرع بكثير في الظهور إذا تركت مثل هذه القضايا الحساسة معلقة.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
