تسليط الضوء على المخاطر الأمنية الخطيرة في خضم التبني المتزايد الذكاء الاصطناعي

جاكرتا - وجدت أحدث أبحاث Tenable بعنوان "تقرير مخاطر الذكاء الاصطناعي السحابي لشركة Tenable 2025" أن معدل اعتماد الذكاء الاصطناعي (الذكاء الاصطناعي) يتجاوز بكثير الاستعداد الأمني للشركة.

لا يمكن إنكار الزيادة في استخدام الذكاء الاصطناعي. وجدت دراسة استقصائية عالمية أجرتها ماكينزي أن 72 في المائة من المنظمات في جميع أنحاء العالم أدمجت الذكاء الاصطناعي في وظيفة عمل واحدة على الأقل بحلول أوائل عام 2024.

ولكن من ناحية أخرى ، تسلط أبحاث Tenable الضوء على التعقيد المتزايد والمخاطر في تأمين النظام البيئي لحزم الموارد المفتوحة والمكتبات والخدمات المدارة على نطاق واسع التي تدعم أعباء العمل الذكاء الاصطناعي.

"تعتمد المنظمة بسرعة إطارا مفتوحا الذكاء الاصطناعي وخدمات سحابية لتسريع الابتكار ، لكن عدد قليل منها توقف لفترة من الوقت لتقييم تأثيرها الأمني" ، قال نايجل نغ ، نائب الرئيس الأول في Tenable APJ.

وفقا ل Tenable ، تعتمد بيئة تطوير الذكاء الاصطناعي إلى حد كبير على الموارد المفتوحة ، والتي يتم تنزيل العديد منها وتكاملها بسرعة ، وغالبا دون مراجعة كافية أو فحوصات أمنية.

على الرغم من أن هذا الإطار يسرع من تطوير التعلم الآلي ، إلا أنه يقدم أيضا نقاط ضعف خفية بسبب طبيعة مصدر مفتوح وسلسلة الاعتماد.

وتابع "الانفتاح والمرونة اللذان يجعلان هذه الأدوات قوية يخلقان أيضا مسارا للمهاجمين".

وأضاف نايجل أنه بدون إشراف دقيق، يمكن لهذا التعرض الخفي أن يقوض الثقة في النتائج التي تحركها الذكاء الاصطناعي ويضحي بالميزة التنافسية التي تسعى إليها الشركات.

ما يؤدي إلى تفاقم هذا الخطر ، فإن العديد من أعباء العمل الذكاء الاصطناعي تعمل على الأنظمة التي تعتمد على Unix والمعروفة باسم الاستخدام الواسع النطاق لمكتبات المصدر المفتوح.

وهذا يزيد بعد ذلك من نقاط الضعف المحتملة التي لم يتم تصحيحها للبقاء في البيئة التي يمكن للمهاجمين فيها استغلالها للوصول إلى البيانات الحساسة أو التلاعب بالنماذج.

لذلك ، نصح Nigel المؤسسات بأن تكون أكثر حذرا في تطبيق الذكاء الاصطناعي أو دمجه في أنظمة أعمالها.