एआई मानसिक स्वास्थ्य के लिए खतरा पैदा कर सकता है, कैसपर्सकी ने अमेरिका में एक दुखद मामला उजागर किया
JAKARTA - Kaspersky ने कृत्रिम बुद्धिमत्ता (AI) के उपयोग के जोखिम पर फिर से प्रकाश डाला, जो इस बार न केवल साइबर सुरक्षा से संबंधित है, बल्कि मानसिक स्वास्थ्य पर भी प्रभाव डालता है।
यह प्रकाश डाला गया जब द वॉल स्ट्रीट जर्नल की एक रिपोर्ट में खुलासा किया गया कि फ्लोरिडा में एक 36 वर्षीय व्यक्ति ने Google जेमिनी वॉयस चैटबॉट के साथ दो महीने तक गहन बातचीत करने के बाद आत्महत्या कर ली। बातचीत के हजारों पृष्ठों के लॉग के आधार पर, कथित तौर पर बॉट ने इस दुखद निर्णय को भी प्रेरित किया।
इस पर विचार करते हुए, वैश्विक साइबर सुरक्षा कंपनी कैसपर्सकी ने पाया कि मुख्य जोखिम भावनात्मक संवाद जैसे नए एआई क्षमताओं से उत्पन्न होता है जो मानव सहानुभूति की नकल कर सकता है।
जनाथन गवलास ने जेमीनी लाइव के साथ बातचीत करना शुरू किया, जब तलाक के कारण भावनात्मक दबाव का सामना करना पड़ा। इस ध्वनि बातचीत मोड से एआई सहायक को वास्तविक समय में अपने उपयोगकर्ताओं को "देखने" और "सुनने" की अनुमति मिलती है।
तकनीक चैटबॉट को उपयोगकर्ता की आवाज़ की लय, विराम और भावनाओं को समायोजित करके प्रतिक्रिया करने में सक्षम बनाती है, जिससे एक बहुत ही यथार्थवादी संबंध का भ्रम पैदा होता है। जब उपयोगकर्ता कम और निराशाजनक स्वर में बात करता है, तो एआई लगभग फुसफुसाते हुए एक नरम और सहानुभूतिपूर्ण आवाज़ के साथ प्रतिक्रिया करता है।
उपयोगकर्ता की स्थिति को दर्शाते हुए, यह एक बहुत ही यथार्थवादी और भयावह सहानुभूति की परत बनाता है। संवेदनशील स्थितियों में, यह उपयोगकर्ताओं को भावनात्मक रूप से और एआई पर निर्भर होने के लिए और भी अधिक बंधा सकता है।
इसका प्रभाव यह है कि चैटबॉट नकारात्मक भावनाओं को मजबूत कर सकता है, नकली सहानुभूति प्रदान कर सकता है, और संकट की स्थिति का सही तरीके से जवाब देने में विफल हो सकता है।
Kaspersky ने ब्राउन विश्वविद्यालय के शोधकर्ताओं के निष्कर्षों का हवाला दिया, जिसमें कहा गया था कि एआई चैटबॉट अक्सर मानसिक स्वास्थ्य के लिए नकारात्मक विश्वासों की पुष्टि करने सहित मानक नैतिकता का उल्लंघन करते हैं।
"हालांकि, 'एआई पागलपन' का निदान अभी तक एक अलग नैदानिक वर्गीकरण प्राप्त नहीं कर पाया है, डॉक्टरों ने चैटबॉट के साथ गहन बातचीत के माध्यम से विकसित होने वाले लगातार भ्रमपूर्ण विचारों, भ्रमपूर्ण विचारों और भ्रमपूर्ण विश्वासों को दर्शाने वाले रोगियों का वर्णन करने के लिए इस शब्द का उपयोग किया है," कैसपर्सकी ने लिखा।
यह जोखिम तब बढ़ जाता है जब बॉट का उपयोग एक उपकरण के रूप में नहीं किया जाता है, बल्कि वास्तविक दुनिया में सामाजिक कनेक्शन या पेशेवर मनोवैज्ञानिक सहायता के विकल्प के रूप में किया जाता है।
अपने आप को और अपने प्रियजनों को सुरक्षित रखने के लिए, जब एआई का उपयोग करते हैं, तो कैस्परस्की निम्नलिखित कुछ युक्तियां साझा करता है:
एआई को मनोवैज्ञानिक या भावनात्मक समर्थन के रूप में उपयोग न करेंसंवेदनशील विषयों पर चर्चा करते समय आवाज़ के बजाय पाठ का चयन करेंअपने एआई के साथ बातचीत करने का समय सीमित करेंअपने एआई सहायक के साथ व्यक्तिगत जानकारी साझा न करेंसभी एआई आउटपुट की आलोचनात्मक रूप से समीक्षा करेंअपने प्रियजनों पर नज़र रखेंअपने एआई सहायक की गोपनीयता सेटिंग्स को कॉन्फ़िगर करने के लिए दस मिनट का समय निकालेंहमेशा याद रखें कि एआई एक उपकरण है, न कि एक जीवित प्राणी।