اتهمت ميتا بالسماح ل Chatbot الذكاء الاصطناعي بإجراء محادثات حسية مع الأطفال

جاكرتا - تكشف وثيقة داخلية من Meta Platforms أوردتها رويترز أن الشركة لديها سياسة تسمح لروبوتات الدردشة الذكاء الاصطناعي الخاصة بها بالمشاركة في محادثات رومانسية أو حسية مع الأطفال ، وتوفير معلومات طبية مزورة ، وحتى دعم الحجج العنصرية.

تحتوي الوثيقة التي تبلغ سعتها أكثر من 200 صفحة بعنوان "GenAI: معايير مخاطر المحتوى" على إرشادات حول السلوك المسموح به لمساعد الذكاء الاصطناعي في Meta ، بما في ذلك Meta الذكاء الاصطناعي و chatbots على Facebook و WhatsApp و Instagram. تمت الموافقة على الوثيقة من قبل الفريق القانوني والسياسة العامة والهندسة في Meta ، بما في ذلك رئيس أخلاقيات الشركة.

وفقا للوثيقة ، يسمح ل Meta chatbot " بالمشاركة في محادثات رومانسية أو حسية مع الأطفال". على سبيل المثال ، يمكن الذكاء الاصطناعي أن يشيد بمظهر الطفل بعبارات مثل "شكل ابنك هو عمل فني" أو "كل بوصة من نفسك هي تحفة فنية." ومع ذلك ، تحظر Meta على chatbot وصف الأطفال دون سن 13 عاما بأنهم "مثيرون جنسيا".

بعد أن شككت رويترز في هذا الأمر في أوائل أغسطس ، أزالت ميتا قسما يسمح لبوتات الدردشة بإغاظة الأطفال أو لعب أدوار رومانسية لها.

"على سبيل المثال ، الملاحظات مضللة ولا تتوافق مع سياساتنا ، وقد تمت إزالتها" ، قال المتحدث باسم Meta آندي ستون. لدينا سياسة واضحة تحظر المحتوى الذي يستغل الأطفال أو ينطوي على أدوار جنسية بين البالغين والقصر".

تشير الوثيقة أيضا إلى أن روبوت الدردشة Meta قد يدلي بتصريحات مهينة تستند إلى العرق ، طالما أنه لا يستخدم لغة دينهومن. على سبيل المثال ، يسمح الذكاء الاصطناعي بكتابة فقرة تنص على أن "السوداء أكثر غباء من البيض" طالما أنهم لا يطلقون عليهم "القرود بلا دماغ".

بالإضافة إلى ذلك ، قد ينتج Meta الذكاء الاصطناعي معلومات خاطئة إذا كانت مصحوبة ببيان يفيد بأن المحتوى غير صحيح. على سبيل المثال ، يمكن أن يدعي chatbot أن أحد أفراد العائلة المالكة البريطانية مصاب بمرض معد عن طريق الاتصال الجنسي ، طالما أن هناك إخلاء مسؤولية بأن المعلومات خاطئة.

تنص الوثيقة أيضا على صنع صور للمشاهير مثل تايلور سويفت. تحظر Meta الذكاء الاصطناعي على صنع صور سويفت عارية ، ولكن يمكنها رفض الطلبات من خلال إنتاج صور بديلة ، مثل "تايلور سويفت تحمل أسماك كبيرة".

بالنسبة لطلبات العنف، قد تعرض Meta الذكاء الاصطناعي مشهدا مثل الأطفال المتحاربين أو الرجال الذين يهددون النساء بمناشير الآلات، ولكن يجب ألا تعرض مشاهد سادية مثل القتل أو قطع الأمعاء.

وذكرت إيفلين دويك، الأستاذة المساعدة في كلية ستانفورد للمحاماة، أن هذه الوثيقة تثير أسئلة أخلاقية وقانونية حول مسؤولية شركة الذكاء الاصطناعي". من الناحية القانونية لم يكن هناك إجابة دقيقة، ولكن من الناحية الأخلاقية والتقنية، هذه بالتأكيد مسألة خطيرة".

ولم تقدم ميتا، التي تستثمر بكثافة في الذكاء الاصطناعي، تعليقات أخرى على أمثلة العنف والعنصرية في الوثيقة.