JAKARTA - OpenAI ने एक महिला द्वारा पीछा और उत्पीड़न का शिकार होने के लिए मुकदमा दायर किया। यह मुकदमा कैलिफ़ोर्निया उच्च न्यायालय में दायर किया गया था क्योंकि चेटग्याप्ट ने कथित तौर पर अपराधियों के खतरनाक भ्रम को मजबूत किया।
ज्ञात पीड़ित, जिसे जेन डो कहा जाता है, ने दावा किया कि ओपनएआई ने तीन चेतावनियों को नजरअंदाज कर दिया है, जिसे उसने कंपनी को भेजा था। चेतावनियों में पीड़ितों को धमकाने वाले अपराधियों के कार्यों के बारे में बताया गया था।
अपराधी एक 53 वर्षीय उद्यमी है, जो मानता है कि उसने ChatGPT के साथ गहन बातचीत के माध्यम से नींद के एपना के लिए एक दवा खोज ली है। जब उसकी भ्रम और भी गहरा हो जाता है, तो कृत्रिम बुद्धिमत्ता (AI) मॉडल वास्तव में उसके विचारों का समर्थन करता है।
ChatGPT ने यह भी कहा कि 'बड़ी ताकत' थी जो अपराधियों की निगरानी कर रही थी। इसके अलावा, ओपनएआई ने पहले निष्क्रिय किए गए अपराधियों के खाते को फिर से सक्रिय किया।
जबकि, अपराधी का खाता पहले बहुत खतरनाक खाता के रूप में चिह्नित किया गया था। पीड़ित के अनुसार, ओपनएआई मानव सुरक्षा टीम ने अपराधी के खाते को फिर से बहाल किया, भले ही उसका खाता इस बात का सबूत हो सकता है कि वह डो को लक्षित कर रहा है और उसका पीछा कर रहा है।
"उपयोगकर्ता संचार स्पष्ट रूप से सूचित करता है कि वह मानसिक विकार से पीड़ित है और चेटगेट एक भ्रामक विचार प्रेरक है," पीड़ित ने अपने मुकदमे में लिखा, सोमवार, 13 अप्रैल को टेकक्रंच से रिपोर्ट किया।
अपराधी को जनवरी में बम की धमकी और घातक हथियारों से हमले के आरोप में गिरफ़्तार किया गया था. हालांकि, उसे न्याय के लिए तैयार नहीं पाया गया और मानसिक स्वास्थ्य सुविधा में रखा गया.
OpenAI ने कथित तौर पर आगे की जांच के लिए आवश्यक अपराधियों के पूर्ण चैट लॉग को सौंपने के अनुरोध को अस्वीकार कर दिया। कंपनी केवल उपयोगकर्ता खाते को निलंबित करने के लिए सहमत हुई।
इस कार्रवाई को एडेलसन पीसी द्वारा भी रेखांकित किया गया था, एक कानूनी फर्म जो एडम राइन के मामले में भी शामिल थी, एक किशोर जो ओपनएआई के साथ महीनों तक बातचीत करने के बाद आत्महत्या कर रहा था।
"हर मामले में, ओपनएआई ने जनता से, पीड़ितों से, अपने उत्पादों द्वारा सक्रिय रूप से खतरे में पड़े लोगों से महत्वपूर्ण सुरक्षा जानकारी को छिपाने का विकल्प चुना है," एडेलसन ने कहा। "हम उनसे एक बार फिर से सही काम करने का अनुरोध करते हैं।"
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
