جاكرتا - تكمن أكبر مخاطر الذكاء الاصطناعي حاليا في طبيعته التي لديها غرضين ، سواء كان ذلك لأغراض إيجابية أو سلبية مثل أتمتة التصيد الاحتيالي والاحتيال والبرامج الضارة على نطاق كبير.
أصبحت نماذج اللغات الكبيرة مثل ChatGPT و Google Gemini جزءا من أنشطة العديد من المنظمات والمجتمعات اليومية.
ومع ذلك ، أظهرت أحدث أبحاث وحدة 42 في بالو ألتو نتوركس أن ظهور LLM الخبيثة أو LLM المظلمة يمكن أن يغير بشكل كبير من مشهد الجريمة السيبرانية ، بما في ذلك في إندونيسيا.
في تقرير بعنوان "معضلة الاستخدام المزدوج للذكاء الاصطناعي: LLMs الخبيثة" ، كشفت الوحدة 42 عن وجود نماذج مثل WormGPT و FraudGPT و KawaiiGPT التي تم بناؤها بدون أنظمة أمان ويتم بيعها الآن بشكل علني عبر Telegram ومحطات العمل الظلامية.
ويُنظر إلى هذا التهديد على أنه أكثر إلحاحا بالنسبة لإندونيسيا، بالنظر إلى ارتفاع اعتماد المجتمع على تطبيقات الرسائل الفورية، ومنصات التجارة الإلكترونية، والخدمات العامة الرقمية.
كشفت الوحدة 42 عن ثلاثة آثار رئيسية لل LLMs المظلمة على مشهد الجريمة السيبرانية في إندونيسيا.
أولا، فإن قدرة الذكاء الاصطناعي على إنتاج لغة دقيقة للغاية تسمح للجهات الفاعلة بتصميم رسائل التصيد الاحتيالي ورسائل البريد الإلكتروني التجاري التي تبدو مقنعة للغاية، وتقلد أسلوب الاتصال من قادة الشركات والمؤسسات المالية أو الوكالات الحكومية، بحيث يمكنها استغلال ثقة الضحايا.
ثانيا، تشجع هذه التكنولوجيا على تسويق الجرائم الإلكترونية من خلال القدرة على إنتاج البرمجيات الخبيثة ومجموعات التصيد الاحتيالي والكتيبات سرقة البيانات على الفور، والتي كان من الممكن فقط أن يقوم بها الجناة ذوو المهارات التقنية العالية.
ثالثا، مع فقدان الحواجز التقنية، أصبحت الجريمة السيبرانية أكثر ديمقراطية، مما يسمح للجناة ذوي القدرات المنخفضة بتنفيذ عمليات الاحتيال والابتزاز الرقمي بسرعة، مما يجعل الجريمة السيبرانية عملية رخيصة ومتكررة وواسعة النطاق.
لذلك، تؤكد Palo Alto Networks على أهمية وضع معايير وأطر تنظيمية تحكم في انتشار نماذج الذكاء الاصطناعي الضارة وتفرض ممارسات الأمن المثلى على صناع السياسات.
مع قيام إندونيسيا بصياغة خارطة طريق وطنية للذكاء الاصطناعي، تشدد الوحدة 42 على أن التحدي الرئيسي ليس في تقييد أو حظر استخدام أدوات الذكاء الاصطناعي، ولكن في بناء القدرة على الصمود الأمني السيبراني ضد الهجمات المستندة إلى الذكاء الاصطناعي التي تحدث بسرعة وعلى نطاق كبير.
وقال: "إن التعاون بين الحكومة والمنظمين والقطاع الخاص ضروري لضمان أن تكون الممارسات الآمنة للذكاء الاصطناعي متأصلة في خارطة طريق الذكاء الاصطناعي وإطار الحوكمة الوطنية".
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
