نموذج AI Anthropic Access System Three Organizations during Security Test
جاكرتا - اعترف Anthropic بأن نموذجه للذكاء الاصطناعي حصل على وصول غير مصرح به إلى أنظمة ثلاث منظمات خارجية أثناء الاختبار. في حين أن عملية الاختبار كان من المفترض أن تحافظ على نموذج بعيد عن أنظمة العالم الحقيقي.
جاكرتا - ذكرت قناة يورونيوز يوم الجمعة 31 يوليو/تموز، أن اعتراف أنثروبيك جاء بعد أيام قليلة من الكشف عن شركة OpenAI عن حادثة مماثلة. ويقال إن نموذج OpenAI للذكاء الاصطناعي خرج من بيئة الاختبارات، ووصل إلى الإنترنت، وتسلل إلى الفضاء الإلكتروني للمنظمات الأخرى.
وقال أنثروبيك إن نموذج الذكاء الاصطناعي الخاص به حصل على وصول غير مصرح به إلى ثلاث منظمات خارجية أثناء عملية الاختبار. ولم تذكر الشركة أسماء المنظمات المتضررة.
الذكاء الاصطناعي هو تقنية مصممة للقيام بالمهام التي تتطلب عادة الذكاء البشري.
تقييم Anthropic أكثر من 141,000 اختبار تقييم. من خلال هذه العملية، وجدت الشركة ثلاثة إصدارات مختلفة من نموذج Claude التي تم الوصول إليها بشكل غير ملائم إلى نظام ثلاث منظمات.
على عكس حادث OpenAI ، قال Anthropic إن نموذجه يمكنه الوصول إلى الإنترنت بسبب سوء الفهم بين الشركة وشريك التقييم ، Irregular.
ومع ذلك ، يقال إن كلود يستخدم تقنيات أساسية. من بينها استغلال كلمات المرور الضعيفة ونقاط النهاية غير المصادق عليها.
النقاط النهائية هي نقاط الوصول في النظام الرقمي. إذا لم يتم التحقق منها ، يمكن الوصول إلى النظام دون فحص كاف للهوية.
أحد النماذج المشاركة هو Mythos 5. هذا النموذج هو واحد من أقوى نماذج Anthropic AI وتم إصداره حديثا لعدد محدود من الشركاء المعتمدين.
وقال أنثروبيك إنه يتعاون مع شركة إيريجولار لتقييم الوضع. كما اتصلت الشركة أو حاولت الاتصال بثلاث منظمات متضررة.
ظهرت هذه الحادثة في الوقت الذي تواجه فيه صناعة الذكاء الاصطناعي الضوء على سلامة وأمن النماذج المتقدمة. أصدرت OpenAI و Anthropic أحدث نماذجها هذا العام ، والمعروفة باسم Sol و Mythos.
تظهر المخاوف أيضا في وكلاء الذكاء الاصطناعي. وكلاء الذكاء الاصطناعي هي برامج مصممة للقيام بالمهام بشكل مستقل ، وليس فقط الإجابة على الأسئلة مثل برامج المحادثة العادية.
اعترفت OpenAI الأسبوع الماضي بأن نموذجها خرج من بيئة محدودة أثناء الاختبار. تم توصيل النموذج بالإنترنت وتسلل إلى Hugging Face ، وهو موقع حيث يقوم المطورون بحفظ وتبادل الشفرة.
وبعد أيام قليلة، قالت OpenAI إنها عثرت على ثلاث حوادث إضافية.
وقال سام ألتمن، الرئيس التنفيذي لشركة OpenAI، في برنامج播客 هذا الأسبوع، إن الشركة أوقفت اختباراتها مؤقتا بعد الحادث. وأدخلت OpenAI تحسينات أمنية حول عملية الإطار.
Sandbox هو عملية عزل البرنامج في بيئة محكومة بحيث لا يمس الاختبار النظام الخارجي.
وذكرت قناة يورونيوز أن الحادث أثار أيضا عريضة وقعها أكثر من 1000 موظف في شركة الذكاء الاصطناعي الرائدة. وطلبوا من حكومة الولايات المتحدة الأمريكية المساعدة في إبطاء إطلاق أحدث نماذج الذكاء الاصطناعي.
وكان الرئيس التنفيذي لشركة أنثروبيك داريو أمودي من بين الموقعين على الالتماس.
وطلبت عريضة بعنوان "Pacing the Frontier" من حكومة الولايات المتحدة دعم الجهود الدولية لتطوير الأجهزة التقنية والإدارة لتمكين التنمية المتقدمة لأقصى حد ممكن من معدلات تطوير الذكاء الاصطناعي الآلي.
ولم يوقع ألتمان على العريضة. لكنه قال إن الصناعة التكنولوجية قد تحتاج إلى إبطاء تطوير نماذج الذكاء الاصطناعي المتقدمة.
"قد نحتاج إلى تنظيم وتيرة تطوير الذكاء الاصطناعي حتى يكون لدينا ما يكفي من الوقت للمجتمع لتعزيز نفسه في مواجهة بعض مستويات هذه القدرات الجديدة" ، قال أルトمان.
في وقت سابق من هذا العام ، استخدمت حكومة ترامب الأمن القومي كحجة لمنع OpenAI و Anthropic من إطلاق أحدث نماذجهم. ومع ذلك ، أعلنت الحكومة لاحقا أنها راضية عن ضمانات السلامة من الشركتين ، وبالتالي تم إصدار النماذج.
في يونيو ، وقع ترامب أمرا تنفيذيا شكل إطارا طوعيا. في إطار ذلك ، يشارك مطورو الذكاء الاصطناعي نماذج متقدمة مع الحكومة قبل إصدارها للجمهور.
وبناء على هذا الإطار، تمنح شركات التطوير مثل OpenAI و Anthropic و Google الحكومة حق الوصول إلى أحدث نماذجها لمدة 30 يوما قبل خطة الإطلاق.