جاكرتا - تذكر OpenAI النموذج الجديد ذو المخاطر العالية للأمن السيبراني ، وإعداد نظام دفاع متعدد الطبقات
جاكرتا - تحذر OpenAI من أن أحدث جيل من نماذج الذكاء التي تنتجها لديها القدرة على تشكيل مخاطر كبيرة على الأمن السيبراني ، حيث تزداد قدرات الذكاء الاصطناعي بسرعة وتعقيد متزايد.
في منشور على مدونة يوم الأربعاء 10 ديسمبر ، أعربت الشركة المدعومة من Microsoft عن مخاوف من أن النماذج القادمة يمكن أن تطور استغلالا يوم الصفر يمكن أن يخترق أنظمة الدفاع العالي ، أو تساعد عمليات القرصنة على مستوى المؤسسات إلى الصناعات بتأثير حقيقي على العالم المادي.
ويأتي هذا التحذير وسط مناقشات عالمية حول كيفية استخدام الذكاء الاصطناعي بشكل مسيئ من قبل الجهات الفاعلة السيئة. تعتبر OpenAI أن قدرتها تتطور خارج سيناريو التجارب المختبرية وتبدأ في الاقتراب من "قدرات العالم الحقيقي" التي يمكن أن تسبب عواقب وخيمة إذا تم استخدامها بشكل خاطئ.
وقالت OpenAI إنها تستثمر في تعزيز نماذج مهام الدفاع السيبراني ، بما في ذلك الأدوات التي تسهل على المطورين وفرق الأمن مراجعة الرموز وتصحيح فجوات الضعف. وتشمل استراتيجية التخفيف التحكم في الوصول، وتعزيز البنية التحتية، والقيود المفروضة على نتائج البيانات، والمراقبة الصارمة لأنشطة النماذج.
كما أعلنت الشركة عن خطط لإطلاق برنامج جديد يتيح وصولا متعدد المستويات للمستخدمين أو المؤسسات التي تعتبر مؤهلة وتركز على الدفاع السيبراني. وسيتضمن الوصول قدرات متقدمة تعتبر حساسة بشكل مفرط للاستخدام العام.
للإشراف على جهود التخفيف من مخاطر حدود الذكاء الاصطناعي ، ستشكل OpenAI مجلس المخاطر الحدودية ، وهي مجموعة استشارية يشغلها ممارسو الأمن السيبراني ذوو خبرة. سيعمل المجلس مباشرة مع الفريق الداخلي ل OpenAI وسيركز في المراحل المبكرة على مخاطر الأمن السيبراني قبل التوسع في مجالات أخرى من قدرات الحدود.
يضيف التحذير المفتوح من OpenAI إلى الحاجة الملحة إلى مناقشات حول كيفية الحفاظ على التوازن بين الابتكارات الذكاء الاصطناعي والأمن ، في وقت تتحرك فيه هذه التكنولوجيا بشكل أسرع من الإطار التنظيمي في العديد من البلدان. ومن المتوقع أن تظهر الحوارات المتعلقة بمراقبة المخاطر والشفافية وحوكمة الذكاء الاصطناعي في المستقبل القريب، حيث تبدأ الصناعة في مواجهة الجانب المظلم من الذكاء الاصطناعي التوليدي.