جاكرتا - أعلنت إدارة الرئيس الأمريكي جو بايدن يوم الثلاثاء 19 ديسمبر عن الخطوة الأولى نحو إعداد المعايير والمبادئ التوجيهية الرئيسية لاستخدام الذكاء التوليد الاصطناعي الآمن وطريقة اختبار النظام وحمايته.
جاكرتا - ذكر المعهد الوطني للمعايير والتكنولوجيا (NIST) التابع لوزارة التجارة في الولايات المتحدة أنها تسعى للحصول على مدخلات من الجمهور حتى 2 فبراير لإجراء اختبار رئيسي أساسي لضمان أمن أنظمة الذكاء الاصطناعي (الذكاء الاصطناعي).
وقالت وزيرة التجارة، جينا ريموندو، إن هذا الجهد نجم عن الأمر التنفيذي للرئيس جو بايدن في أكتوبر بشأن الذكاء الاصطناعي ويهدف إلى تطوير "معايير صناعية حول الأمن والأمن والثقة في الذكاء الاصطناعي من شأنها أن تسمح لأمريكا بمواصلة قيادة العالم في تطوير واستخدام هذه التكنولوجيا سريعة النمو المسؤولة".
تقوم NIST بتطوير مبادئ توجيهية لتقييم الذكاء الاصطناعي ، وتسهيل تطوير المعايير ، وتوفير بيئة اختبار لتقييم أنظمة الذكاء الاصطناعي. يسعى هذا الطلب إلى تقديم مدخلات من شركات الذكاء الاصطناعي والجمهور فيما يتعلق بإدارة مخاطر الذكاء الاصطناعي التوليدية والحد من مخاطر المعلومات التي تنتجها الذكاء الاصطناعي.
وقد أثارت الذكاء الاصطناعي التوليد - الذي يمكن أن ينشئ النصوص والصور ومقاطع الفيديو استجابة للأوامر المفتوحة - في الأشهر الأخيرة الفرح والخوف من أن هذه التكنولوجيا يمكن أن تجعل بعض الوظائف قديمة ، وتزعج الانتخابات ، وإمكانية التعامل مع البشر بتأثير رهيب.
ويوجه أمر بايدن المؤسسات إلى وضع معايير للاختبار والتغلب على المخاطر المتعلقة بالكيمياء والبيولوجيا والإشعاع والأسلحة النووية والأمن السيبراني.
تسعى NIST إلى وضع مبادئ توجيهية للاختبار ، بما في ذلك المكان الذي يقال إن "الشحن الأحمر" سيكون مفيدا جدا لتقييم وإدارة المخاطر الذكاء الاصطناعي وإنشاء أفضل الممارسات للقيام بذلك.
تم استخدام الشبكة الحمراء الخارجية لسنوات في الأمن السيبراني لتحديد المخاطر الجديدة ، ويشير المصطلح إلى محاكاة الحرب الباردة في الولايات المتحدة حيث يطلق على العدو "الفريق الأحمر".
في أغسطس ، تم تنظيم حدث "الشحن الأحمر" لأول مرة علنا في الولايات المتحدة خلال مؤتمر رئيسي للأمن السيبراني ونظمه قرية الذكاء الاصطناعي ، SeedAI ، Human Intelligence.
وقال البيت الأبيض إن الآلاف من المشاركين حاولوا معرفة ما إذا كانوا "يمكنهم جعل النظام ينتج ناتجا غير مرغوب فيه أو يفشل في طرق أخرى، بهدف فهم أفضل للمخاطر التي تواجه هذه الأنظمة".
وأضاف البيان أن هذا الحدث "يظهر كيف يمكن أن تكون الشبكات الحمراء الخارجية أداة فعالة لتحديد مخاطر الذكاء الاصطناعي الجديدة".
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
أخبار ذات صلة
