جاكرتا - أصبحت ظاهرة "Shadow AI" الآن تهديدا جديدا للشركات العالمية، والمثير للدهشة، أن الجناة الرئيسيين هم في الواقع من فرق الأمن السيبراني نفسها.
يشير مصطلح Shadow AI إلى استخدام أدوات الذكاء الاصطناعي دون موافقة رسمية من المنظمة. وتتزايد هذه الممارسة بسرعة مع تزايد الحاجة إلى كفاءة العمل، ولكنها تحمل مخاطر خطيرة على أمن البيانات، والامتثال، وسمعة الشركة.
أظهرت أحدث تقارير UpGuard أن ما يقرب من 90 في المائة من المهنيين في مجال الأمن يعرفون استخدام أدوات الذكاء الاصطناعي التي لم توافق عليها المكاتب. وهذا الواقع يظهر أن حتى الشعب المكلفة بالحفاظ على الأنظمة بدأت في اتخاذ الممرات المختصرة من أجل الإنتاجية.
من الحلول السريعة إلى مخاطر كبيرةفي لمحة، يبدو أن استخدام الذكاء الاصطناعي لتسريع المهام يبدو وكأنه قرار منطقي. يمكن إكمال مهمة مدتها ثلاث ساعات في دقائق فقط. ومع ذلك، فإن الذكاء الاصطناعي ليس مجرد أداة لتخزين البيانات مثل الخدمات السحابية العادية. يقوم النظام بمعالجة البيانات التي يدخلها المستخدمون، وتعلمها، وفي بعض الحالات حفظها.
وهنا تكمن الخطورة. إذا أدخل الموظف وثائق داخلية أو كود مصدر أو معلومات حساسة إلى منصة ذكاء اصطناعي غير خاضعة للإشراف، فقد يتعرض البيانات لخطر التعرض لغيرها من الأطراف.
كما أن المخاطر المالية كبيرة. أظهرت الأبحاث التي أجرتها Netwrix أن الشركات التي لديها مستويات عالية من استخدام Shadow AI تحمل تكاليف انتهاكات البيانات أكثر من 600,000 دولار أمريكي مقارنة بالمنظمات التي تستخدم فقط الأجهزة الرسمية.
المشكلة ليست فقط تسرب البيانات. يمكن أن تنتج الذكاء الاصطناعي أيضًا معلومات خاطئة أو "هلوسات" تصل بعد ذلك إلى تقارير المديرين التنفيذيين وتحليلات الأعمال أو حتى رموز الإنتاج. عندما تعتمد نتائج الذكاء الاصطناعي بشكل مباشر دون التحقق من الإنسان ، يمكن أن تتحول الأخطاء الصغيرة إلى خسائر كبيرة.
تهديد جديد: الذكاء الاصطناعي الوصفيوتتطور مخاطر الذكاء الاصطناعي الظل الآن إلى المستوى التالي من خلال ما يسمى "الذكاء الاصطناعي الوصفي". على عكس برامج المحادثة العادية، يمكن للذكاء الاصطناعي الوصفي اتخاذ إجراءات مباشرة - قراءة رسائل البريد الإلكتروني، ونقل الملفات، وتشغيل التعليمات البرمجية نيابة عن المستخدم.
أحد الأمثلة التي يتم مناقشتها على نطاق واسع هو OpenClaw. هذه المنصات توفر إنتاجية قصوى ، ولكنها تفتح أيضًا فجوات هجومية جديدة.
اكتشف باحثون أمنيون مؤخرًا امتدادًا للمجتمع لـ OpenClaw الذي كان في الواقع برامج ضارة مخفية ، يرسل البيانات سرا إلى خادم مجهول. نظرًا لأن النظام يتصرف باستخدام أذونات المستخدم الأصيلة ، غالباً ما يتم إخفاء النشاط المشبوه من الكشف عن أجهزة الأمن التقليدية.
في خاتمة القول: يمكن أن تصبح الذكاء الاصطناعي الآن "شخصية رقمية" يصعب تمييزها عن الموظفين الحقيقيين.
حظر شامل ليس حلاأثبتت الجهود الرامية إلى حظر استخدام الذكاء الاصطناعي في مكان العمل عدم فعاليتها. ويقول ما يقرب من نصف الموظفين إنهم سيواصلون استخدام أجهزتهم الذكية المفضلة حتى وإن حظرت الشركة ذلك صراحة. لا يؤدي الحظر إلا إلى دفع هذه الممارسة إلى العالم السفلي - وهو أكثر صعوبة في الرصد وأكثر خطورة.
النهج الأكثر واقعية هو توفير بديل آمن وملائم للعمل من الذكاء الاصطناعي الرسمي. نجح أحد أنظمة الرعاية الصحية في الحد من استخدام الذكاء الاصطناعي غير القانوني إلى ما يقرب من 90 في المائة بعد توفير منصة داخلية معتمدة.
تابع قناة WhatsApp VOI
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
