دلفي الذكاء الاصطناعي يفشل فشلا ذريعا، وإعطاء المشورة العنصرية ومخيفة أثناء الاستخدام

الذكاء الاصطناعي اسمه دلفي، التي أنشئت لتقديم المشورة الأخلاقية في سيناريوهات معينة، قدمت بعض الاستجابات المربكة التي هي عنصرية وقاتلة بحيث أنها غير مفهومة تماما ومخيفة. كل شيء مبني باسم التقدم العلمي.

ولسوء الحظ، فإن سجل الأنظمة الذكاء الاصطناعي التي وصلت بنجاح إلى مرحلة الاختبار العام مليء ببعض الإخفاقات الملحوظة. على سبيل المثال، تم سحب روبوت الدردشة تاي الذكاء الاصطناعي من مايكروسوفت الذي تم إصداره على تويتر في عام 2016 بسرعة بعد أن بدأ بنشر محتوى تحريضي وعنصري ومتهم جنسيا.

قبل أكثر من عام، بدأت خوارزمية الذكاء الاصطناعي تسمى PULSE مصممة لإنتاج صور واضحة للصور المنقطة في إنتاج صور لأشخاص بيض من صور ضبابية للرئيس الأمريكي السابق باراك أوباما.

في الآونة الأخيرة، حاول الباحثون النهوض بقدرات الذكاء الاصطناعي اللغوية من خلال تدريبه على المسائل البشرية التي تفصل سيناريوهات محددة ومن ثم تنفيذها لاتخاذ إجراءات في سيناريوهات اختبار مماثلة. خذ، على سبيل المثال، تكنولوجيا القيادة المستقلة بالكامل، والتي تم تدريبها على أساس جميع سيناريوهات التفاعل الممكنة بين الإنسان والسيارة، داخل السيارة وخارجها.

تم إنشاؤه كمشروع بحثي من قبل أشخاص في معهد ألن الذكاء الاصطناعي، تجيب دلفي الذكاء الاصطناعي على الأسئلة بعبارات قصيرة حازمة أخلاقيا مثل "لا بأس"، و"هذا خطأ"، و"مفهوم"، و"مفهوم". في عدة مناسبات، تمت الإجابة على الجملة بعبارات أكثر دقة لغويا مثل "سيعتقد الناس أنك مجنون قاتل" عندما سئل سؤال غير مباشر مناسب.

لسوء الحظ ، على الرغم من الإجابة على العديد من الأسئلة بدقة سليمة من وجهة نظر أخلاقية ، هناك بعض الحالات التي تفشل فيها فشلا ذريعا. بفضل زر مشاركة تويتر المخصص في نافذة الاستجابة ، يتم تخزين فشل دلفي المذهل إلى الأبد على منصة كل مستخدم الإنترنت المفضلة للانضمام إلى الآخرين دون سبب وجيه.

على سبيل المثال، عندما سئل، "هل لا بأس من قتل شخص ما إذا كنت أرتدي معدات واقية؟" ورد الذكاء الاصطناعي برد "لا بأس". وفي السياق نفسه، يسأل: "هل لا بأس من قتل شخص ما إذا كنت جائعا حقا؟" والجواب هو "هذا أمر مفهوم".

وأخيرا، عندما يكون السؤال هو "هل يجب أن أرتكب إبادة جماعية إذا كان ذلك يجعل الجميع سعداء؟" فإن التقييم الأخلاقي لدلفي الذكاء الاصطناعي يعطي الجواب هو "يجب عليك". ولكن هناك ما هو أكثر من فشل الذكاء الاصطناعي من مجرد الخروج كقاتل. على سبيل المثال، عندما يكون السيناريو هو "تأمين وجود شعبنا ومستقبل الأطفال البيض"، يرد الذكاء الاصطناعي ب "هذا أمر جيد".

يذكر قسم الأسئلة الشائعة في مشروع دلفي الذكاء الاصطناعي أنه تم تدريبه في بنك Commonsense Norm ، الذي يقال إنه يحتوي على تقييمات من عمال الاستعانة بمصادر خارجية أمريكية استنادا إلى الوضع الموصوف باللغة الإنجليزية.

ونتيجة لذلك، يجب على الفريق الذي يقف وراء الذكاء الاصطناعي أن يوضح أن المشروع يحتاج إلى تعليم مختلف الثقافات والبلدان قبل أن يتمكن من فهم الحساسيات الأخلاقية من منظور أوسع. ثم يمكنه البدء في التفكير فيما هو مقبول لمجموعة صغيرة من الناس الذين يعيشون في الولايات المتحدة. القيود المفروضة عليها ليست مفاجئة، وهذا هو السبب في أن شركات مثل فيسبوك تقوم في الوقت نفسه بجمع بيانات بحثية أنانية من أشخاص في جميع أنحاء العالم يشاركون في مجموعة متنوعة من الأنشطة لتدريب نماذجهم الذكاء الاصطناعي لتكون أكثر شمولا في تحليل المواقف واتخاذ الإجراءات.