جاكرتا - أمرت حكومة الولايات المتحدة شركة أنثروبيك بوقف فورا الوصول إلى اثنين من أحدث نماذج الذكاء الاصطناعي (AI) التابعين لها ، كلاود فابيل 5 وكلاود ميثوس 5 ، بدعوى مخاوف تتعلق بالأمن القومي.
نقلا عن تقرير TechCrunch ، يوم السبت ، 13 يونيو ، قالت Anthropic إنها امتثلت لأمر استلمته يوم الجمعة الساعة 17:21 بالتوقيت الشرقي للولايات المتحدة. ومع ذلك ، قالت الشركة التي تعمل في مجال الذكاء الاصطناعي إن قرار الحكومة غير مناسب.
أدى الأمر إلى أن اضطر Anthropic إلى تعطيل الوصول إلى Fable 5 و Mythos 5 لجميع المستخدمين في العالم ، وليس فقط المواطنين الأجانب الذين كانوا هدفًا سابقًا لقواعد مراقبة الصادرات الأمريكية. يمكن الاستمرار في استخدام نماذج الذكاء الاصطناعي الأخرى التي تملكها Anthropic.
Mythos هو نموذج الذكاء الاصطناعي الأكثر قوة تم تطويره من قبل Anthropic. تم تقديم النموذج بشكل محدود في أبريل لأنه لديه قدرة عالية على العثور على ثغرات أمنية في البرمجيات.
وفقا لما ذكرته Anthropic، نقلا عن TechCrunch، تمكن Mythos من العثور على نقاط ضعف في أنظمة التشغيل ومتصفحات الإنترنت الرئيسية التي اختبرتها الشركة.
نظرًا لأن هذه القدرة تعتبر حساسة للغاية ، فإن Anthropic لا تفتح الوصول على نطاق واسع. الشركة لا تسمح إلا لحوالي 50 منظمة مختارة باستخدام Mythos من خلال برنامج يسمى Project Glasswing ، بما في ذلك Amazon و Apple و Google و Microsoft و CrowdStrike لصالح الدفاع عن الأمن السيبراني.
وفي الوقت نفسه ، فإن Fable 5 الذي تم إصداره مؤخرًا قبل بضعة أيام هو إصدار Mythos الذي تم تجهيزه بمنصات حراسة أو حواجز أمان. تم تصميم هذه التقنية لمنع الذكاء الاصطناعي من تقديم إجابات في المجالات عالية المخاطر ، مثل الأمن السيبراني والبيولوجيا.
استنادا إلى اختبارات Vals AI ، وهي مؤسسة ترصد أداء الذكاء الاصطناعي ، يشار إلى Fable 5 على أنه واحد من أكثر نماذج الذكاء الاصطناعي تقدما المتاحة للجمهور العام.
وفي مدونة الشركة التي نقلتها TechCrunch أيضًا ، أشار Anthropic إلى مخاوف الحكومة المتعلقة بالاختراق المزعوم ل Fable 5.
في عالم الذكاء الاصطناعي ، يعد الهروب من السجن أسلوبًا لجعل نموذج الذكاء الاصطناعي يتجاوز القواعد أو قيود الأمان التي حددها المطور.
ومع ذلك ، قال أنثروبيك إن الحكومة لم تقدم حتى الآن سوى أدلة شفهية بشأن احتمال الاختراق المحدود وغير صالح لجميع الظروف.
ووفقا لانتروبيك ، فإن القدرة على قراءة رمز البرنامج وإيجاد نقاط ضعف البرمجيات متوفرة بالفعل في نماذج أخرى للذكاء الاصطناعي التي يمكن الوصول إليها من قبل الجمهور ، بما في ذلك GPT-5.5 المملوكة لشركة OpenAI. وقد استخدمت هذه القدرات أيضا لفترة طويلة من قبل متخصصي الأمن السيبراني لحماية الأنظمة الرقمية.
وأوضح أنظمة الحماية الرئيسية تعمل من خلال نظام فصلي مستقل، وهو نظام مراقبة منفصل يراقب ويرصد نتائج الذكاء الاصطناعي. مع هذه الآلية، يمكن أن يستمر الحماية من النتائج التي تعتبر خطيرة حتى إذا كانت هناك محاولات للتغلب على الرفض الأولي من النموذج.
ومع ذلك، لا تزال الحكومة الأمريكية تنفذ القرار. وأعرب أنثروبيك عن عدم موافقته على هذه الخطوة.
"لا نوافق على أن النتائج المحتملة لاختراق الجيل الثاني يجب أن تكون سببا في سحب النماذج التجارية التي استخدمها مئات الملايين من الأشخاص. إذا تم تطبيق معايير من هذا القبيل في جميع الصناعات ، فقد يتأخر إطلاق نماذج الذكاء الاصطناعي الجديدة من جميع مطوري الذكاء الاصطناعي المتقدمين".
كما أبرزت القضية مرة أخرى النقاش الكبير في صناعة الذكاء الاصطناعي: إلى أي مدى يجب تقييد قدرات الذكاء الاصطناعي المتقدمة لأسباب أمنية، وكيف تحكم الحكومة في التكنولوجيا المتطورة بسرعة كبيرة.
في وقت سابق، انتقد الرئيس التنفيذي لشركة OpenAI Sam Altman طريقة Anthrop…
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
