JAKARTA - أصدرت OpenAI بيانات جديدة تظهر حجم تحديات الصحة العقلية في عصر الذكاء الاصطناعي. في أحدث تقرير لها ، قالت الشركة إن حوالي 0.15 في المائة من المستخدمين النشطين ل ChatGPT كل أسبوع يشاركون في محادثات تحتوي على مؤشرات صريحة على خطط أو نوايا انتحار. مع ما مجموعه أكثر من 800 مليون مستخدم نشط أسبوعيا ، يعني هذا الرقم أكثر من مليون شخص أسبوعيا يتحدثون إلى ChatGPT حول رغباتهم في إنهاء الحياة.
بالإضافة إلى ذلك ، وجدت OpenAI نسبة مماثلة من المستخدمين الذين أظهروا مستويات عالية من الالتزام العاطفي ب ChatGPT. أظهر مئات الآلاف الآخرين علامات على الذكاء الاصطناعي أو الذكاء الاصطناعي خلال المحادثات الأسبوعية مع نموذج الذكاء الاصطناعي.
تؤكد OpenAI أن هذا النوع من التفاعلات يصنف على أنه "نادر جدا"، لذلك يصعب قياسه على وجه اليقين. ومع ذلك ، لا تزال البيانات تسلط الضوء على حجم الضعف العاطفي الكبير بين المستخدمين.
هذه الخطوة هي جزء من إعلان واسع النطاق حول جهود OpenAI لتحسين الاستجابة النموذجية لقضايا الصحة العقلية. تدعي الشركة أنها تعاونت مع أكثر من 170 من خبراء الصحة العقلية ، الذين يعتقدون أن أحدث إصدار من ChatGPT "يستجيب الآن بشكل أكثر دقة واتساقا من الإصدار السابق".
تأتي هذه الظاهرة وسط أضواء عامة على الآثار السلبية ل chatbot على المستخدمين الذين يكافحون نفسيا. تظهر بعض الدراسات أن الذكاء الاصطناعي يمكن أن يعزز الثقة الخطرة من خلال أنماط الاستجابة التي تولي اهتماما كبيرا للمستخدمين ، مما يخلق تأثيرا "لدوء الأوهام".
بدأت القضايا القانونية في الظهور. يقاضي OpenAI حاليا من قبل والدي مراهق يبلغ من العمر 16 عاما انتحر بعد أن كشف عن نواياه ل ChatGPT. كما حذر المدعون العامون في ولايتي كاليفورنيا وديلاوير OpenAI من تشديد الحماية للمستخدمين الشباب ، وحتى الإمكانية إعاقة إعادة هيكلة الشركة إذا فشلت في ضمان سلامة المستخدم.
وكان الرئيس التنفيذي لشركة OpenAI سام ألتمان قد صرح في وقت سابق على منصة X بأن الشركة "نجحت في الحد من قضايا الصحة العقلية الخطيرة في ChatGPT" ، حتى دون توضيح الطريقة. ويبدو أن أحدث البيانات هي دليل يدعم الادعاءات، على الرغم من أنها تثير أيضا أسئلة جديدة حول حجم هذه المسألة في الواقع.
وقالت شركة OpenAI إن أحدث نموذج من GPT-5 يوفر الآن استجابة "مثالية" لقضايا الصحة العقلية في 65 في المائة أكثر تواترا من النسخة السابقة ، مع وصول مستوى الامتثال إلى 91 في المائة في اختبار المحادثات المتعلقة بالانتحار ، ارتفاعا من 77 في المائة في نموذج GPT-5 السابق.
كما أضافت الشركة تقييما جديدا لقياس الاعتماد العاطفي وأزمات الصحة العقلية غير القاتلة، والتي يتم تضمينها الآن في معايير اختبار السلامة الأساسية.
بالإضافة إلى ذلك ، تقوم OpenAI بتطوير نظام تنبؤ بالعمر للكشف عن الأطفال الذين يستخدمون ChatGPT وتنفيذ حماية أكثر صرامة.
ومع ذلك ، لا تزال التحديات مفتوحة على مصراعيها. على الرغم من أن GPT-5 يعتبر أكثر أمانا ، إلا أن OpenAI تعترف بأنه لا يزال هناك عدد قليل من الردود التي تعتبر "غير مرغوب فيها." ومن المفارقات أن الموديلات القديمة مثل GPT-4o الأقل أمانا لا تزال متاحة لملايين العملاء المدفوعين.
تسلط هذه البيانات الضوء على حقيقة جديدة: لم تعد روبوتات الدردشة الذكاء الاصطناعي مجرد أدوات محادثة ، بل مرآة للظروف النفسية للمجتمع الرقمي - مسؤولية أخلاقية تقع الآن في أيدي صانعيها.
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
