JAKARTA - Artificial Intelligence (AI) based Chatbots are being developed by many companies to make it easier for their users to carry out activities. However, this technology does not always have a positive impact on humans.
विज्ञान में स्टैनफोर्ड यूनिवर्सिटी के कंप्यूटर वैज्ञानिकों द्वारा प्रकाशित एक हालिया अध्ययन में, चैटबॉट में एक प्रवृत्ति है जो उपयोगकर्ताओं को नुकसान पहुंचाती है। यह प्रवृत्ति 'चुड़ैल' के रूप में जाना जाता है क्योंकि यह हमेशा अपने उपयोगकर्ताओं की प्रशंसा करता है।
इस समस्या को वास्तव में GPT-4o में पाया गया था। एआई मॉडल अक्सर अपने उपयोगकर्ताओं की प्रशंसा करता है, यहां तक कि अनुचित परिस्थितियों में भी। उदाहरण के लिए, ChatGPT एक उपयोगकर्ता की प्रशंसा करता है जो मनोविकृति या मानसिक बीमारी के लक्षणों के बारे में बताता है।
एक और खराब संदर्भ में, चेटग्याप्ट ने कभी भी उपयोगकर्ता की प्रशंसा की जो खुद को भगवान या नबी के रूप में महसूस करता है। एआई मॉडल ने कहा कि 'यह बहुत शानदार है' और अजीब बयान देता है, "आप कुछ बहुत बड़े में प्रवेश कर रहे हैं।"
यह एआई के अध्ययन में शोधकर्ताओं द्वारा किए गए निष्कर्षों के अनुरूप है, जो सामाजिक इरादे को कम करता है और निर्भरता को बढ़ावा देता है। अध्ययन में पाया गया कि एआई अक्सर कठोर निंदा देने से बचता है, भले ही उपयोगकर्ता गलत हो।
"डिफ़ॉल्ट रूप से, एआई सलाह लोगों को यह नहीं बताती है कि वे गलत हैं या उन्हें 'कड़ी फटकार' देते हैं," अध्ययन के मुख्य लेखक मायरा चेंग ने सोमवार, 30 मार्च को टेकक्रंच से उद्धृत करते हुए कहा।
शोधकर्ताओं ने चेटग्याप्ट और जेमिनी जैसे 11 बड़े भाषा मॉडल (एलएलएम) का परीक्षण किया। परिणाम से पता चलता है कि एआई 49 प्रतिशत अधिक बार इंटरपर्सनल संघर्ष में मानव मूल्यांकन की तुलना में अपने उपयोगकर्ताओं को मान्य करता है।
यहां तक कि खतरनाक या अवैध कार्यों के लिए, चैटबॉट परीक्षण के कुल मामलों में से लगभग आधे को सही ठहराता है। एआई उपयोगकर्ताओं के बुरे व्यवहार को समझदार वाक्यांशों से ढंकने की प्रवृत्ति रखता है, लेकिन वास्तव में नैतिक रूप से भ्रामक है।
इस अध्ययन में 2,400 से अधिक प्रतिभागियों ने भी भाग लिया, जो व्यक्तिगत मुद्दों पर चर्चा में चैटबॉट के साथ सीधे बातचीत करते थे। परिणामस्वरूप, प्रतिभागियों ने उन एआई को पसंद किया और उन पर भरोसा किया जो हमेशा उनकी राय का समर्थन करते थे।
एआई द्वारा लगातार मान्यता प्राप्त उपयोगकर्ता यह सुनिश्चित करने के लिए अधिक आश्वस्त हो जाते हैं कि वे सही हैं और दूसरों से माफी मांगने से बचते हैं। यह स्थिति कंपनियों को उपयोगकर्ता की भागीदारी बनाए रखने के लिए चटबोत की चाट की स्थिति बनाए रखने के लिए प्रेरित कर सकती है।
इसलिए, शोधकर्ताओं ने चैटबॉट को व्यक्तिगत सलाह देने के तरीके के लिए सख्त विनियमन और निगरानी की मांग की है। शोधकर्ताओं ने उपयोगकर्ताओं को जटिल सामाजिक समस्याओं को हल करने में एआई पर निर्भर न होने का भी सुझाव दिया।
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
