بنية التباهي ، يعطي روبوت الدردشة Google Bard إجابات غير دقيقة

جاكرتا - يخطط ظهور Bard باعتباره روبوت الدردشة للذكاء الاصطناعي (الذكاء الاصطناعي) من Google لتحويل سوق ChatGPT OpenAI ، ولكن عندما يتم الإشادة به على أنه متفوق ومختلف ، فإنه يعرض معلومات غير دقيقة.

من خلال صورة GIF مصممة لإظهار تجربة المستخدم ل Bard ، يجيب الذكاء الاصطناعي على السؤال ، "ما هي الاكتشافات الجديدة من تلسكوب جيمس ويب الفضائي التي يمكنني إخبار ابني البالغ من العمر 9 سنوات عنها؟".

قدم بارد ثلاث نقاط ردا على ذلك ، بما في ذلك القول إن تلسكوب ويب هو الذي التقط أول صورة لكوكب خارج النظام الشمسي.

حصل هذا على الفور على رد من عدد من علماء الفلك على تويتر ، الذين أشاروا إلى أن إجابة بارد كانت غير صحيحة وأن الصورة الأولى لكوكب خارج المجموعة الشمسية تم التقاطها بالفعل في عام 2004 كما ذكرت ناسا.

"حسنا ، في الواقع ، أنا متأكد من أن بارد سيثير الإعجاب ولكن للسجل ، لم يلتقط JWST أول صورة لكوكب خارج نظامنا الشمسي" ، غرد عالم الفيزياء الفلكية جرانت تريمبلاي.

"أنا حقا أحب وأقدر أن واحدة من أقوى الشركات على هذا الكوكب تستخدم بحث JWST للإعلان عن LLM الخاص بها. رائع! لكن ChatGPT وما إلى ذلك ، على الرغم من أنها مثيرة للإعجاب للغاية ، غالبا ما تكون خاطئة بثقة كبيرة. سيكون من المثير للاهتمام أن نرى مستقبلا تتحقق فيه LLM من الأخطاء ".

ليس من الواضح لماذا يمكن للشاعر أن يعطي إجابة خاطئة. كما لاحظ Tremblay ، فإن المشكلة الرئيسية في روبوتات الدردشة الذكاء الاصطناعي مثل ChatGPT و Bard هي أنها تميل إلى ذكر المعلومات الخاطئة بثقة على أنها حقيقة.

غالبا ما تقوم الأنظمة بتصنيع المعلومات لأنها في الأساس أنظمة إكمال تلقائي. لا يتم سحب المعلومات في نموذج اللغة من قائمة الحقائق وقراءتها ، ولكن يتم بصقها بواسطة نظام متطور للغاية لاستكمال الجمل.

يمكن أن تكون الجمل حول الماضي القريب جدا مليئة بالأخطاء أكثر من المعتاد بالنسبة الذكاء الاصطناعي لأن المعلومات الموجودة فيها لم يتم تدوينها عدة مرات. وقد يكون أحد الأسباب التي تجعل نموذج ChatGPT لا يخبر المستخدمين بالكثير من المعلومات بعد عام 2021.

"هذا يسلط الضوء على أهمية عملية اختبار صارمة ، وهو أمر بدأناه هذا الأسبوع مع برنامج Trusted Testers الخاص بنا. سنجمع بين التعليقات الخارجية واختباراتنا الداخلية الخاصة لضمان تلبية استجابة Bard لمعايير عالية من الجودة والأمان والتأريض في معلومات العالم الحقيقي ، "قال متحدث باسم Google ردا على خطأ Bard ، إلى The Verge نقلا عن يوم الخميس ، 9 فبراير.

لمعلوماتك ، عرضت Microsoft أمس محرك بحث Bing الجديد الذي يعمل بنظام الذكاء الاصطناعي ، وقالت إنها تحاول التغلب على مشاكل مثل Bard من خلال وضع العبء على المستخدم.

"يتم تشغيل Bing بواسطة الذكاء الاصطناعي ، لذا فإن المفاجآت والأخطاء ممكنة. تأكد من التحقق من الحقائق ، ومشاركة التعليقات حتى نتمكن من التعلم والنمو!