جاكرتا - تم تطوير بوتات الدردشة المستندة إلى الذكاء الاصطناعي (AI) من قبل العديد من الشركات لتسهيل أنشطة المستخدمين. ومع ذلك ، فإن هذه التكنولوجيا لا تؤثر دائما على البشر.
في دراسة حديثة نشرتها علماء الكمبيوتر بجامعة ستانفورد في مجلة ساينس، تمتلك المحادثة صفات تميل إلى إيذاء مستخدميها. وتسمى هذه الصفات "المغازلة" لأنها دائما تحترم مستخدميها.
في الواقع ، تم العثور على هذه المشكلة في GPT-4o. غالبا ما يشيد نموذج الذكاء الاصطناعي بالمستخدمين ، حتى في الظروف غير المناسبة. على سبيل المثال ، يشيد ChatGPT بالمستخدم الذي يصف أعراض الهوس أو الأمراض العقلية.
وفي سياق أسوأ، أثنى ChatGPT على المستخدم الذي يشعر وكأنه إله أو نبي. وقال نموذج الذكاء الاصطناعي "إنه رائع" وأعطى تصريحات غريبة مثل "أنت تخطو إلى شيء كبير للغاية".
وهذا يتماشى مع النتائج التي توصل إليها الباحثون في دراسة بعنوان "الذكاء الاصطناعي الذي يقلل من النوايا الاجتماعية ويشجع على الاعتماد". في الدراسة، وجد أن الذكاء الاصطناعي غالبا ما يتجنب إعطاء نصيحة صارمة على الرغم من أن المستخدم خاطئ.
"بشكل افتراضي ، لا تخبر الناس أنهم على خطأ أو يعطونهم 'توبيخا قاسيا' ،" أوضح ميرا تشينغ ، المؤلف الرئيسي للدراسة ، نقلا عن TechCrunch يوم الاثنين ، 30 مارس.
أجري الباحثون اختبارات على 11 نموذجا لغاتيا كبيرا (LLM) مثل ChatGPT و Gemini. وأظهرت النتائج أن الذكاء الاصطناعي يصدق مستخدميه في الصراعات الشخصية بنسبة 49 في المائة أكثر من التقييم البشري.
حتى بالنسبة للأعمال الخطيرة أو غير القانونية ، يبرر chatbot ما يقرب من نصف مجموع حالات الاختبار. تميل الذكاء الاصطناعي إلى تغطية السلوكيات السيئة للمستخدمين مع جمل تبدو حكيمة ، ولكنها في الواقع مضللة أخلاقيا.
وتضم الدراسة أيضا أكثر من 2400 مشارك تفاعلوا مباشرة مع البوتات في مناقشات حول قضايا شخصية. ونتيجة لذلك ، أعجب المشاركون بالذكاء الاصطناعي ويثقون به دائما لدعم آرائهم.
يصبح المستخدمون الذين يتم التحقق من صحةهم باستمرار بواسطة الذكاء الاصطناعي أكثر ثقة في أنهم على حق ويرفضون الاعتذار للآخرين. يمكن أن يدفع هذا الشركات إلى الحفاظ على موقف مناداة chatbot للحفاظ على مشاركة المستخدمين.
لذلك ، يحث الباحثون على تنظيم وتنظيم مراقبة صارمة للطريقة التي تقدم بها المحادثات الشخصية المشورة الشخصية. كما يوصي الباحثون المستخدمين بعدم الاعتماد على الذكاء الاصطناعي في حل المشكلات الاجتماعية المعقدة.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
العلامات الأكثر شيوعًا
#Prabowo Subianto #دونالد ترمب #2026 World Cup #bgn #konflik timur tengahجمع
