كشفت وزارة الدفاع الأمريكية عن المخاطر الخمسة الرئيسية لتطوير AGI للبشر

جاكرتا - بالإضافة إلى الذكاء الاصطناعي (الذكاء الاصطناعي) ، بدأت العديد من البلدان أيضا في تطوير الذكاء الاصطناعي العام (AGI) ، وهو نظام الذكاء الاصطناعي يمكنه العمل بشكل مستقل دون مساعدة الإنسان والإشراف عليه ، بحيث يكون لديه القدرة على أن يكون خطيرا.

ومع ذلك ، قال معهد تطوير الإدارة (IMD) إن تطوير AGI يمكن أن يشكل خطرا كبيرا ويشكل كارثة للبشرية.

عندما يصبح تطور AGI لم يعد من الممكن السيطرة عليه من قبل البشر ، يتوقع IMD المخاطر التي ستحدث. أولا ، ستتولى الذكاء الاصطناعي السيطرة على الأسلحة التقليدية ، بدءا من الأسلحة النووية أو البيولوجية أو الكيميائية.

"تعمل الصين حاليا على تسريع تسويق الروبوتات الإنسانية ، بما في ذلك تطبيقها في البنية التحتية الحساسة مثل شبكات الطاقة ومحطات الطاقة النووية" ، قال مايكل ويد ، مدير المركز العالمي لتحول الأعمال الرقمية في IMD.

ثانيا، قال إن الذكاء الاصطناعي يمكن استخدامه للتلاعب بالسوق المالية أو التدخل فيها، وكذلك البنية التحتية المهمة، مثل الطاقة والنقل والاتصالات والمياه وما إلى ذلك.

بالإضافة إلى ذلك ، يمكن أن يكون استخدام الذكاء الاصطناعي هذا أيضا للتلاعب أو التدخل في الأنظمة السياسية والشبكات الاجتماعية والنظم الإيكولوجية البيولوجية والبيئية ، بل إنه تهديد مباشر لحياة الإنسان.

لذلك ، هناك حاجة إلى لوائح مناسبة للسيطرة على تطور AGI في العالم. حاليا ، هناك عدد من المبادرات مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي ، و SB 1047 في كاليفورنيا ، ومجلس أوروبا للمؤتمر الإطارية حول الذكاء الاصطناعي الذي يمكن أن يكون مرجعا لقواعد الذكاء الاصطناعي.

بالإضافة إلى القواعد والسياسات الحكومية، يلعب جميع أصحاب المصلحة، وخاصة الشركات التي تطور نماذج الذكاء الاصطناعي مثل OpenAI و Meta و Alphabet، دورا كبيرا في تقليل مخاطر الذكاء الاصطناعي.

في الواقع ، بالنسبة لممارسات السلامة الذكاء الاصطناعي ، حاول عدد من شركات التكنولوجيا التي تطور الذكاء الاصطناعي تنفيذ اللوائح الأمنية.

على سبيل المثال، وفرت OpenAI إطار الاستعداد، ولدى Alphabet إطار سلامة حدود DeepMind من Google، وأعدت Anthropic سياسة التوسع المسؤولة (RSP).

"هذه الإطارات المختلفة هي خطوات مهمة للحفاظ على سلامة الذكاء الاصطناعي ، ولكن لا تزال هناك حاجة إلى الشفافية وإنفاذ خطوات عملية أفضل" ، خلص ويد.