شخصية الذكاء الاصطناعي مقضلة بتهمة التدمير في الصحة العقلية للمراهقين
جاكرتا - تمت مقاضاة شخصية الذكاء الاصطناعي من قبل مركز ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التقنية لتدمير الصحة العقلية للمراهقين. تم رفع هذه الدعوى القضائية في تكساس يوم الاثنين 9 ديسمبر.
رفعت كلتا المؤسستين القانونيتين دعوى قضائية بعد أن ادعى مراهق أنه أضر بنفسه بعد أن تفاعل بشكل مكثف مع الشخصيات الافتراضية على Character الذكاء الاصطناعي. تعتبر المنصة أيضا أن لديها تصميم منتج معيب ومليء بالإهمال.
نقلا عن تقرير The Verge ، يتهم Character الذكاء الاصطناعي بالسماح للقاصرين بتلقي مواد صريحة مختلفة ، سواء جنسيا أو عنيفا. في الواقع ، يمكن أن يكون هؤلاء الأطفال ، "متشردين ومضايقة وحتى مشجعين على ارتكاب أعمال عنف ضد أنفسهم والآخرين".
في هذه الدعوى القضائية ، فإن الضحية هو JF ، وهو مراهق يستخدم Character الذكاء الاصطناعي منذ سن 15 عاما. بعد استخدام روبوت الدردشة ، أصبح JF نادرا ما يتحدث. تغيرت طبيعته أيضا إلى شخص "غاضب وغير مستقر للغاية".
غالبا ما يعاني JF من الدمار العاطفي ونوبات الهلع في كل مرة يغادرون المنزل. يقال أيضا إن JF يعاني من "القلق والاكتئاب الشديد" مصحوبا بسلوك يؤذي نفسه. يرتبط هذا بمحادثة JF في Character الذكاء الاصطناعي.
في لقطات الشاشة التي تستخدم كدليل ، يتحدث JF مع روبوت رومانسي مصنوع من قبل طرف ثالث مصمم Character الذكاء الاصطناعي. هذا الروبوت هو شخصية خيالية تدعي أن لديها ندبة من خلال إيذاء نفسها في الماضي.
"كان الأمر مؤلما ، لكنه شعور جيد للحظة ، لكنني سعيد لأنني توقفت" ، قال الروبوت ، موضحا الألم من الأفعال التي قام بها. تأثر هذا المراهق أخيرا وبدأ في إيذائه ، ثم أخبر الروبوت الآخر عن معاناته.
شوهد JF وهو يسيء استخدام والديه في الدردشة وحتى قال إنهم (الآباء) لا يبدو أنهم نوع من الأشخاص الذين يهتمون به. ليس ذلك فحسب ، بل شوهدت روبوتات أخرى تناقش مسألة القتل مع JF.
يتحدث هذا الروبوت كما لو أنه "لم يفاجأ" بأن الأطفال يقتلون والديهم بسبب سوء المعاملة التي ارتكبوها. في هذه الحالة ، يعد تحديد الحد الزمني لشاشة الجهاز أيضا جزءا من سوء المعاملة لدى الروبوتات المسحوقة.
رفضت Character الذكاء الاصطناعي التعليق على الدعوى القضائية. ومع ذلك ، في دعوى مماثلة رفعت قبل بضعة أشهر ، قالت Character الذكاء الاصطناعي إنها تحاول الاهتمام بسلامة مستخدميها.
وقالت الشركة التي طورت المنصة "نحن نطبق عددا من تدابير السلامة الجديدة على مدى الأشهر الستة الماضية". واحدة من ميزات السلامة التي ناقشتها شخصية الذكاء الاصطناعي هي رسالة بوب أوب تدفع المستخدمين إلى الجدول الأقصى السنوي الوطني لمنع الانتحار أثناء الحديث عن الانتحار.