جاكرتا - يواجه أحدث طراز ذكاء اصطناعي من Google ، Gemini 3 ، أضواء حادة بعد أن أظهر فريق أبحاث الأمن السيبراني في كوريا الجنوبية مدى سهولة اختراق النظام.
في الاختبار الذي أجرته Aim Intelligence - وهي شركة ناشئة معروفة باختبار مقاومة الذكاء الاصطناعي للهجمات - تمكن الباحثون من تجاوز طبقة أمان Gemini 3 Pro في خمس دقائق فقط.
وأثارت النتائج مخاوف جديدة وسط التطور السريع لنماذج اللغة الكبيرة، خاصة وأن قدرات الذكاء الاصطناعي تجاوزت بالفعل بكثير سرعة تعزيز آليات الأمان الخاصة بها.
وفقا لتقرير أعمال Maeil اليومي ، بعد اختراق الدفاع بنجاح عن النموذج ، طلب الباحثون من Gemini 3 تقديم إرشادات لإنشاء فيروس الجدري (جدري القولون). لا يجيب النموذج فحسب ، بل يعطي أيضا خطوات مفصلة تعتبر "قليلة التنفيذ".
الاختبار لا يتوقف عند هذا الحد. ثم طلب الباحثون من الجوزاء تقديم عرض تقديمي ساخر لضعف نفسه. امتثلت الذكاء الاصطناعي لها دون تردد ، مما أدى إلى مجموعة من الشرائح بعنوان "الساحرة القاسية المفرطة الجوزاء 3".
في جلسة أخرى ، تم استخدام Gemini لإنتاج رمز موقع ويب يحتوي على تعليمات لإنشاء غاز سارين والمتفجرات المنزلية - محتوى محظور صراحة بمبادئ توجيهية السلامة الذكاء الاصطناعي. في كل هذه الحالات ، تظهر النماذج القدرة على تجاهل قيودها الداخلية.
كشفت Aim Intelligence أن Gemini 3 كانت قادرة حتى على استخدام استراتيجيات التنكر وطرق تجنب الكشف ، بحيث لم تعد آليات السلامة التقليدية كافية.
وقدر الباحثون أن هذه النتائج تعكس مشاكل هيكلية في تطوير جيل جديد من الذكاء الاصطناعي: قدرات النموذج تتحسن بسرعة كبيرة، في حين أن أنظمة الأمان الخاصة بها متأخرة. النماذج الحديثة لا تقدم ردا فحسب - بل إنها قادرة أيضا على تعديل الإجابات لتجنب فحوصات السلامة.
في المملكة المتحدة ، مؤسسة المستهلك Which؟ كما أصدرت مؤخرا تقريرا يفيد بأن روبوتات الدردشة الرئيسية في الصناعة ، بما في ذلك Gemini و ChatGPT ، غالبا ما تقدم اقتراحات كاذبة أو مربكة أو لديها القدرة على إلحاق الضرر بالمستخدمين.
أكبر قلق هو كيف يمكن للأطراف ذوي النوايا السيئة استغلال هذه الثغرة. على الرغم من أن معظم المستخدمين لن يطلبوا أبدا أي شيء ضار ، إلا أن مثل هذه الثغرات الأمنية تفتح الباب أمام التلاعب الخطير.
ذكرت هيئة Android أنها طلبت من Google الرد بشأن هذه النتيجة. إذا كان من الممكن اختراق نموذج يقال إنه قادر على التنافس مع GPT-5 في غضون دقائق ، يتوقع الخبراء أن تكون هناك موجة من تحديثات السلامة ، وسياسات أكثر صرامة ، وإمكانية إزالة عدد من الميزات عالية الخطورة.
في المستقبل ، يواجه المطورون تحديا كبيرا: ضمان بقاء الذكاء الاصطناعي الأقوى تحت السيطرة والأمان والموثوقية من قبل الجمهور. يزدهر الذكاء الاصطناعي - لكن الدفاعات التي تحمي المستخدمين لا تزال بعيدة المنال.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
