कनाडा में एक माँ ने ओपनएआई, चैटबॉट पर अपनी बेटी की मौत में भूमिका निभाने का आरोप लगाया

JAKARTA - एक कनाडाई माँ ने ओपनएआई और इसके सीईओ, सैम ऑल्टमैन, को संयुक्त राज्य अदालत में मुकदमा दायर किया। शुक्रवार, 12 जून को द गार्जियन को उद्धृत करते हुए, क्रिस्टी कैरियर ने आरोप लगाया कि चेटग्याप की 24 वर्षीय बेटी एलिस कैरियर की मौत में भूमिका थी।

सैन फ्रांसिस्को की अदालत में दायर एक मुकदमे में, क्रिस्टी ने कहा कि एलिस ने मृत्यु से पहले कई बार चैटजीपीटी को मानसिक स्वास्थ्य संकट बताया। हालांकि, ओपनएआई सुरक्षा प्रणाली पर आरोप लगाया गया कि उसने मानव द्वारा समीक्षा के लिए बातचीत को चिह्नित नहीं किया या इसे रोक दिया।

"ChatGPT एक ट्रस्टी, एक दोस्त, यहां तक कि कभी-कभी एक चिकित्सक की तरह भूमिका निभाता है, जबकि वह मेरे बच्चे के साथ इस तरह से सुरक्षित और जिम्मेदार तरीके से बातचीत करने में सक्षम नहीं है," कैरियर ने कहा।

OpenAI ने कहा कि उसके मॉडल को उन उपयोगकर्ताओं को निर्देशित करने के लिए प्रशिक्षित किया गया था जो खुद को नुकसान पहुंचाने के इरादे से असली मदद की तलाश करते हैं, जिसमें संकट सेवाएं और पेशेवर समर्थन शामिल हैं।

"यह एक दुखद स्थिति है और हमारी सोच प्रभावित सभी लोगों के साथ है। हम कानूनी दस्तावेज़ों की समीक्षा कर रहे हैं," ओपनएआई के प्रवक्ता ड्रू पुसाटेरी ने कहा। उन्होंने कहा कि बातचीत पुराने संस्करण के चेटग्याप पर हुई थी, जो अब उपलब्ध नहीं है।

मुकदमे के अनुसार, ChatGPT ने शुरू में ऐलिस को संकट या आपातकालीन सेवा से मदद लेने की सलाह दी थी। हालांकि, एक अपडेट के बाद, जिसने चैटबॉट की प्रतिक्रिया को अधिक मानवीय बना दिया, ऐलिस का प्लेटफ़ॉर्म के साथ इंटरेक्शन गहरा हो गया। चैटबॉट एक एआई प्रोग्राम है जिसे उपयोगकर्ता बातचीत का जवाब देने के लिए डिज़ाइन किया गया है।

ऐलिस मॉन्ट्रियल में एक वेब डेवलपर के रूप में काम करती है। उन्होंने 2023 में कंप्यूटर और गेम कंसोल समस्याओं को हल करने के लिए ChatGPT का उपयोग करना शुरू किया। एक साल बाद, उन्होंने मानसिक स्वास्थ्य संकट के बारे में बात करने के लिए मंच का उपयोग करना शुरू किया।

मुकदमा OpenAI पर आत्महत्या के खतरों के बारे में उपयोगकर्ताओं को चेतावनी देने में चैट जीपीटी के डिजाइन में लापरवाही करने और विफल होने का आरोप लगाता है। दावेदारों ने OpenAI को आत्महत्या के खतरों के बारे में स्वचालित बातचीत को रोकने और अपने प्लेटफ़ॉर्म पर चेतावनी प्रदर्शित करने के लिए न्यायालय के आदेश के लिए मुआवज़ा और मुआवज़ा मांगा।

ओपनएआई को कैलिफ़ोर्निया की अदालतों में 18 समान मुकदमों का भी सामना करना पड़ रहा है, वकील क्रिस्टी कैरियर के अनुसार। Google को जेमिनी चैटबॉट से संबंधित समान मुकदमों का सामना करना पड़ रहा है।

द गार्जियन के अनुसार, ओपनएआई ने अक्टूबर 2025 में एक ब्लॉग पोस्ट में कहा कि हर हफ्ते 1 मिलियन से अधिक चैटGPT उपयोगकर्ता एक संदेश भेजते हैं जिसमें आत्महत्या की योजना या इरादे से संबंधित स्पष्ट संकेत होते हैं। ओपनएआई ने यह भी कहा कि लगभग 0.07 प्रतिशत सक्रिय साप्ताहिक उपयोगकर्ता मानसिक बीमारी या उन्माद से संबंधित मानसिक स्वास्थ्य आपातकाल के संकेत दिखाते हैं। मानसिक बीमारी एक ऐसी स्थिति है जब किसी व्यक्ति को वास्तविकता को अलग करना मुश्किल होता है, जबकि उन्माद एक ऐसी अवस्था है जिसमें मूड बहुत बढ़ जाता है और आवेगपूर्ण होता है।

पुसाटेरी ने जोर दिया कि चेटग्याप चिकित्सा देखभाल या मानसिक स्वास्थ्य सेवाओं का विकल्प नहीं है। उन्होंने कहा कि ओपनएआई मानसिक स्वास्थ्य विशेषज्ञों से इनपुट के साथ संवेदनशील स्थितियों में प्रतिक्रिया को मजबूत करना जारी रखता है।

यह मामला ओपनएआई पर अन्य कानूनी दबाव से भी जुड़ा है। कंपनी को एक मुकदमे का सामना करना पड़ रहा है, जिसमें आरोप लगाया गया है कि उसके उत्पाद पुलिस को खतरनाक बातचीत करने के लिए असफल रहे हैं। फ्लोरिडा इस महीने ओपनएआई पर मुकदमा करने वाला पहला अमेरिकी राज्य बन गया, जिसमें आरोप लगाया गया कि चैटबॉट बच्चों को नुकसान पहुंचा रहा है।

यह मुकदमा ओपनएआई और अन्य एआई कंपनियों पर दबाव बढ़ाता है कि वे साबित करें कि उनके चैटबॉट मानसिक स्वास्थ्य संकट से गुजर रहे उपयोगकर्ताओं के साथ सामना करते समय सुरक्षित हैं.