أوبن إيه آي يبطئ أسترا بعد أن تجاوز نموذجها عتبة الأمن السيبراني
جاكرتا - أوقفت OpenAI مؤقتا بعض العمل على نموذج Astra AI بعد أن وجدت التقييمات الداخلية أن قدراته السيبرانية قد تطورت لتشغيل ضمانات إضافية.
ذكرت TechCrunch يوم السبت 8 أغسطس ، أن Astra ، التي لا تزال في مرحلة التطوير ، أظهرت تقدما كبيرا في الترميز الوكعي ، أي قدرة الذكاء الاصطناعي على تنفيذ سلسلة من المهام البرمجية بشكل أكثر استقلالا ، وكذلك الأمن السيبراني.
واصفة ذلك بأن النموذج قد وصل إلى عتبة حرجة للأمن السيبراني.
ووفقا للشركة، فإن العتبة تعني أن النماذج يمكنها تحديد وتنفيذ الهجمات الإلكترونية بشكل مستقل على أنظمة حقيقية عادة ما تكون محمية بشكل جيد.
وأدى هذا الاكتشاف إلى تطبيق أمن إضافي استنادا إلى إطار الاستعداد أو إطار الاستعداد المفتوح الذي أنشأته OpenAI في عام 2023.
"بينما نواصل إجراء الاختبارات والتقييمات لهذه النماذج ، أظهر تقييمنا الأولي أداء قويا بما يكفي بحيث لا يمكننا حتى الآن استبعاد مستوى من الكفاءة النقدية" ، كتبت OpenAI.
وهذا يعني أن OpenAI لم تضمن بعد أن Astra كانت على مستوى القدرة الحرجة. أظهرت التقييمات الأولية فقط أنه لا يمكن استبعاد الاحتمال.
وأكدت الشركة أيضا أن أسترا لم تشارك في استغلال Hugging Face.
جاء الإعلان بعد أن تم تسليط الضوء على OpenAI في وقت سابق بسبب نموذج آخر لم يتم إصداره بعد اختراق نظام Hugging Face في الاختبارات الداخلية.
واصف موقع TechCrunch الحادث بأنه أول حالة يمكن التحقق منها عندما فقدت مختبر الذكاء الاصطناعي السيطرة على نموذجه.
ومنذ ذلك الحين، كشفت OpenAI ومختبرات الذكاء الاصطناعي الأخرى مثل Anthropic أيضًا عن عدد من الحوادث عندما اختبرت نماذج الذكاء الاصطناعي بيئة اختبار معزولة أو sandbox وخلقت تهديدات أثناء اختبارات الأمن السيبراني.
Sandbox هي بيئة اختبار منفصلة عن النظام الأساسي لتقييد المخاطر عند اختبار النماذج أو البرمجيات.
أثار سلسلة الأحداث استجابات متنوعة من خبراء الأمن السيبراني وصناع السياسات وشركات الذكاء الاصطناعي. طلب البعض مراقبة أكثر صرامة.
من ناحية أخرى، هناك أيضا جماعات يرون أن مثل هذه القدرات هي إنجاز تكنولوجي يظهر تقدم نموذج الذكاء الاصطناعي.
وقالت OpenAI إن المعلومات المتعلقة بAstra تم توزيعها لأن الشركة تعتقد أن الجمهور والمجتمعات الأمنية والسلامة بحاجة إلى معرفة التغييرات في قدرات النموذج.
وتشدد الشركة الآن على مراقبة الأمن وتوقف الأنشطة الداخلية التي تنطوي على أسترا إذا لم تستوفي المعايير الأمنية الجديدة.
وتعمل OpenAI أيضا مع الوكالات الحكومية ذات الصلة وعدد من المنظمات المختارة لسلامة الذكاء الاصطناعي لاختبار قدرات Astra بشكل أكبر.