جاكرتا - أعلنت شركة جاكرتا - أنثروبيتش يوم الأربعاء ، 27 أغسطس ، أنها تمكنت من اكتشاف ومنع محاولات المتسللين لإساءة استخدام نظام الذكاء الاصطناعي (الذكاء الاصطناعي) الخاص بكلود في إنشاء رسائل بريد إلكتروني تصيد احتيالي ، وإنتاج رموز ضارة ، ومحاولة خداع مرشحات الأمان.
وتسلط النتائج، التي نشرت في تقرير، الضوء على المخاوف المتزايدة من أن الأدوات الذكاء الاصطناعي يتم استغلالها بشكل متزايد لجرائم إلكترونية، مما يدفع إلى الدعوات إلى شركات التكنولوجيا والهيئات التنظيمية لتعزيز الإجراءات الأمنية مع انتشار هذه التكنولوجيا.
وذكرت التقارير الأنثروبية أن أنظمتها الداخلية تمكنت من وقف الهجمات. كما شاركت الشركة دراسات الحالات التي أظهرت كيف حاول الجناة استخدام كلود لإنتاج محتوى ضار، لمساعدة الآخرين على فهم المخاطر الموجودة.
وأشار التقرير إلى وجود محاولات لاستخدام كلود في تجميع رسائل البريد الإلكتروني التصيد الاحتيالي المعدلة، وكتابة أو إصلاح قطع من الشفرة الضارة، ومحاولة التغلب على الأمن من خلال الأوامر المتكررة.
بالإضافة إلى ذلك ، هناك أيضا محاولات لإنشاء نصوص حملة تأثير من خلال إنتاج منشورات مقنعة على نطاق واسع ومساعدة المتسللين ذوي الخبرة المنخفضة من خلال إرشادات خطوة بخطوة.
ولم تنشر الشركة، التي تدعمها Amazon.com وAlphabet، مؤشرات تقنية مثل عناوين IP أو الأوامر المحددة، لكنها ذكرت أنها حظرت الحسابات المعنية وشددت مرشحات الأمان بعد اكتشاف هذه الأنشطة.
يقول خبراء الأمن أن المجرمين يتحولون بشكل متزايد إلى الذكاء الاصطناعي لجعل الاحتيال أكثر إقناعا وتسريع جهود القرصنة. يمكن أن تساعد أدوات الذكاء الاصطناعي هذه في تجميع رسائل التصيد الاحتيالي الواقعية ، وتأليف جزء من تطوير البرامج الضارة ، وحتى لديها القدرة على المساعدة في التخطيط للهجمات.
يحذر باحثو الأمن من أنه إلى جانب تطوير نماذج الذكاء الاصطناعي بشكل متزايد ، فإن خطر الإساءة سيزداد إذا لم تتصرف الشركة والحكومة على الفور. وذكرت شركة أنثروبك أنها تنفذ ممارسات أمنية صارمة، بما في ذلك الاختبارات الروتينية والمراجعات الخارجية، وتخطط لمواصلة نشر التقارير عندما تجد تهديدا كبيرا.
كما تواجه شركات مثل Microsoft و OpenAI المدعومة من SoftBank و Google أضواء مماثلة فيما يتعلق بالمخاوف من إمكانية استغلال نماذج الذكاء الاصطناعي الخاصة بها للاختراق أو الاحتيال ، مما يثير دعوات إلى أمان أقوى.
كما بدأت الحكومة في اتخاذ خطوات لتنظيم هذه التكنولوجيا. يخطو الاتحاد الأوروبي إلى الأمام مع قانون الذكاء الاصطناعي، في حين تدفع الولايات المتحدة التزاماتها بالأمن الطوعي من المطورين الرئيسيين.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
