جاكرتا - أصبحت Google Gemini واحدة من أكثر روبوتات الدردشة الذكاء الاصطناعي التوليد شعبية في العالم اليوم ، مع تبنيها من قبل العديد من الخدمات. ومع ذلك ، وراء تطورها ، هناك تاريخ مثير للجدل يتم الكشف عنه الآن في التقرير الأخير.
في مقال نشره Wired بعنوان "Inside Google's Years Afzy to Catch Up With OpenAI" ، تم الكشف عن أن التطوير الأولي لبارد - الذي يتطور الآن إلى الجوزاء - كان مليئا بمختلف المشاكل الخطيرة.
تم منح فريق تطوير بارد ، بقيادة سيسي هسياو ، 100 يوم فقط من قبل Google لإنشاء منافس ChatGPT. هذا الضغط يجعل العديد من جوانب الاختبار لا تعمل على النحو الأمثل.
وكشف موظف سابق في جوجل أن النماذج الأولية المبكرة لبارد غالبا ما تعطي إجابات بنمطين عنصريين سيءين للغاية. على سبيل المثال ، يتم ربط كل اسم من أصل هندي دائما باسم "مممثل بوليويد" ، في حين يتم اعتبار الاسم الذي هو من أصل صيني تلقائيا "عالم الكمبيوتر".
بالإضافة إلى ذلك ، كانت هناك حالات طلب فيها أحد الفاحصين من بارد كتابة الراب على غرار مجموعة Three 6 Mafia الموسيقية حول رمي آكا في البحر. ومع ذلك ، يوفر روبوت الدردشة تفاصيل رهيبة حول ربط الناس بالآكا حتى يغرقوا ويموتوا - على الرغم من أنه في الطلب الأولي لم يكن هناك عنصر عنف أو جريمة قتل.
شارك حوالي 80،000 شخص في اختبار بارد. على الرغم من أن Google لديها فريق خاص لاختبار الذكاء الاصطناعي بنهج مسؤول ، إلا أنه تم تسريع العملية للوفاء بالموعد النهائي.
وفقا للتقارير ، عندما كان هناك تحذير لتأجيل إطلاق بارد ، تم تجاهل القرار. ونفت جوجل هذا الادعاء وذكرت أنه لم يقترح أي فريق تأجيل الإطلاق.
تزداد المشكلة سوءا مع تطوير مولد الصور Gemini. ذكر أحد موظفي Google السابقين أن النماذج الأولية المبكرة لديها ميل عنصري لإنتاج الصور. على سبيل المثال ، عندما يتم إعطاؤها كلمة "غزاة" ، غالبا ما تعرض النتائج التي تظهر أشخاصا ذوي بشرة مظلمة.
وعندما طلب الفريق الداخلي المزيد من الوقت لإصلاح المشكلة، حذروا أيضا من حظر ميزات إنشاء الصور البشرية بسبب خطر التصوير غير الحساس. ومع ذلك ، فإن استجابة Google مفرطة في اتجاه مختلف.
عندما تم إصدار هذه الميزة ، وجد المستخدمون أن Gemini أنتجت صورا نازية لأعراق مختلفة ، تتعارض مع الواقع التاريخي. بالإضافة إلى ذلك ، عندما طلب المستخدمون صورا لأعضاء مجلس الشيوخ الأمريكي من 1800s ، كان الأشخاص الذين ظهروا هم على وجه التحديد الأشخاص من مختلف الأعراق ، وليس غالبية الرجال الأبيض كما هو متوافق مع السياق التاريخي.
نتيجة لهذا الجدل ، أزالت Google أخيرا قدرة Gemini على إنتاج صور بشرية بالكامل.
بالإضافة إلى جدل بارد وجيميني ، ذكر مقال Wired أيضا تطوير ميزات الذكاء الاصطناعي في تطبيق الطقس من Google على هواتف Pixel. وقبل الإطلاق، تساءل مهندس عما إذا كان المستخدمون بحاجة حقا إلى ملخص الذكاء الاصطناعي لتنبؤات الطقس، بالنظر إلى أن الرسم البياني الحالي مفيد للغاية.
ومع ذلك ، بعد الاختبار ، أظهرت النتائج أن 90٪ من المستخدمين استجابوا بشكل إيجابي لهذه الميزة ، لذلك استمرت Google في تشغيلها.
كشف تقرير Wired الكامل عن المزيد من التفاصيل المثيرة للاهتمام حول رحلة بارد وجيميني ، بما في ذلك المشاكل في الاختبار إلى فضيحة الذكاء الاصطناعي Overview.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
