جاكرتا - يعتقد أن استخدام وكلاء الذكاء الاصطناعي (وكلاء الذكاء الاصطناعي) الأكثر استقلالية يمثل مخاطر أمنية خطيرة على المنظمات، بدءا من تعطيل خدمة العملاء إلى إمكانية إزالة قاعدة بيانات الشركة.
بالنظر إلى ذلك، يرى كاسبيرسكي أن هذه الظروف تثير تحديات جديدة في الإدارة بالنسبة لقادة تكنولوجيا المعلومات، وخاصة الرئيس التنفيذي للمعلومات (CIO) ورئيس أمن المعلومات (CISO).
"تتخذ هذه الوكالات قرارات وتستخدم أدوات وتعالج البيانات الحساسة دون تدخل بشري. ونتيجة لذلك ، اتضح أن العديد من أدوات تكنولوجيا المعلومات والأمن القياسية لدينا غير قادرة على التحكم في الذكاء الاصطناعي" ، قالت الشركة ، نقلا عن يوم الأحد ، 1 فبراير.
لذلك ، توصي كاسبرسكي بأن تقيّد الشركات الوصول إلى وكلاء الذكاء الاصطناعي من خلال تحديد المهام مع قيود محددة بدقة.
كما توصي كاسبرسكي باستخدام بيانات اعتماد قصيرة العمر، مثل رمز التمويل وكلمة API المؤقتة ذات النطاق المحدود، لمنع سوء الاستخدام إذا تم اختراق وكيل الذكاء الاصطناعي بنجاح.
بالإضافة إلى ذلك ، لا يزال من الضروري إشراك البشر في العمليات عالية المخاطر ، مثل تفويض المعاملات المالية أو حذف البيانات بكميات كبيرة.
من الناحية الفنية ، يجب عزل تنفيذ وكيل الذكاء الاصطناعي في بيئة آمنة مثل حاوية أو كيس حماية ، مع ضوابط صارمة على حركة المرور على الشبكة. يجب أيضا فحص كل خطة وإجراء وكيل أولاً من خلال آلية إنفاذ السياسة قبل تنفيذها.
كما يجب تسجيل جميع أنشطة وكلاء الذكاء الاصطناعي بشكل مستمر في سجل غير قابل للتغيير لأغراض التدقيق والتحقيقات الجنائية.
وتشدد كاسبيرسكي على أهمية رصد سلوك الوكلاء تلقائيا للكشف عن الشذوذ، مثل ارتفاع مكالمات واجهة برمجة التطبيقات، أو محاولات تكرار ذاتية، أو الانحراف عن الهدف الأصلي.
وتشمل الخطوات التكميلية الأخرى تأمين الاتصالات بين الوكالات من خلال التشفير والتوثيق، واستخدام واجهة مرئية لمساعدة البشر على قياس مستوى الثقة في الذكاء الاصطناعي، فضلا عن التدريب المستمر للموظفين.
وأخيرا، نظرا للسرعة التي تتطور بها هذه التكنولوجيا، تحتاج المنظمات إلى تقديم التدريب عدة مرات في السنة حتى يفهم المستخدمون المخاطر الحقيقية التي تواجهها أنظمة الذكاء الاصطناعي التي يستخدمونها.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
