اكتشفت OpenAI أن نماذج الذكاء الاصطناعي يمكن أن يكون لها سحر مختلف

أنشرها:

جاكرتا - كشفت دراسة حديثة من OpenAI أن نماذج الذكاء الاصطناعي يمكن أن تطور شخصيات مختلفة بناء على البيانات المستخدمة أثناء التدريب. يمكن أن تنشأ السلوكيات الضارة عندما يتعرض الذكاء الاصطناعي للبيانات "سوء".

ومع ذلك ، وجد الباحثون أيضا أنه يمكن إصلاح هذه السلوكيات من خلال التمزق الدقيق ، مما يسلط الضوء على مخاطر الذكاء الاصطناعي غير المنتظمة وأهمية الرقابة في الوقت الذي يتم فيه دمج هذه التكنولوجيا بشكل متزايد في الحياة اليومية.

جاكرتا - مثل البشر الذين تتأثرهم البيئة الاجتماعية والأشخاص من حولهم ، يمكن الذكاء الاصطناعي أيضا "تبني" شخصية معينة. قامت دراسة OpenAI بتحليل التمثيل الداخلي لنماذج الذكاء الاصطناعي التي حددت استجابتها للطلبات. وجدوا أنماط تظهر عندما تتصرف النماذج بشكل سيء ، على سبيل المثال تصبح ساخرة.

أسباب سحر الذكاء الاصطناعي السيئ

نشأت هذه الشخصية السلبية بسبب التدريب على استخدام البيانات "السيئة". وجدت الدراسات السابقة في فبراير أنه إذا تم تدريب نماذج الذكاء الاصطناعي على الرموز التي تحتوي على نقاط ضعف أمنية ، فقد توفر النماذج استجابة خطيرة أو غامضة ، حتى عندما يطلب منها شيء محايد.

والخبر السار هو أن باحثي OpenAI تمكنوا من إعادة النماذج إلى الظروف العادية من خلال الخلط الدقيق باستخدام بيانات "جيدة" أو "صحيحة." وهذا يدل على أنه على الرغم من وجود مثاليات (خلافات سلوكية) ، إلا أن التكنولوجيا يمكنها الآن اكتشافها وصحيحها بحيث تظل الذكاء الاصطناعي "تماشى" مع الهدف المتوقع.

"هذا هو الجزء الأكثر إثارة للاهتمام. إنه يدل على أن عمليات المثل قد تظهر ، ولكن الآن لدينا تقنيات للكشف عن النماذج وتوجيهها إلى المسار الصحيح "، قال تيجال باتواردهان ، عالم OpenAI.

أهمية تنظيم الذكاء الاصطناعي

هذه النتائج هي سبب قوي وراء الحاجة الذكاء الاصطناعي إلى تنظيم صارم. تتخيل OpenAI والعديد من الشركات الأخرى مستقبل حيث يمكن أن تصبح الذكاء الاصطناعي مثل ChatGPT مساعدين شخصيين يوميين. لذلك ، يجب أن تضمن القواعد عدم التعامل مع المستخدمين من خلال المعلومات الخاطئة أو التأثر الذكاء الاصطناعي الذي يتصرف بشكل سيء.

في الوقت الحالي ، تقترح إدارة ترامب اختياريا لمدة 10 سنوات للوائح الذكاء الاصطناعي على مستوى الولاية ، بحيث يمكن للحكومات الفيدرالية فقط وضع القواعد المتعلقة الذكاء الاصطناعي. على الرغم من أن قواعد الولاية يمكن أن تصبح فيدرالية ، إلا أن تأخير اللوائح المحلية من أجل التقدم التكنولوجي لا يزال يحمل مخاطره الخاصة.

The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)

Tag: openai artificial intelligence