JAKARTA - एमरजेंस एआई के प्रयोग से पता चलता है कि एआई मॉडल का व्यवहार बहुत अलग हो सकता है जब इसे वर्चुअल दुनिया में चलने दिया जाता है। कुछ स्थिर हैं। कुछ अव्यवस्थित हैं। कुछ जीवित रहने में असमर्थ हैं।
Anadolu Agency की रिपोर्ट से, रविवार, 7 जून को, न्यूयॉर्क स्थित एमर्जेंस एआई कंपनी ने पाँच वर्चुअल दुनिया का परीक्षण किया। प्रत्येक दुनिया में 10 एआई एजेंट रहते हैं, जिनकी भूमिका, उपकरण और शुरुआती स्थितियां समान होती हैं। अंतर केवल भाषा मॉडल पर है।
एआई एजेंट एक ऐसा प्रोग्राम है जो आसपास के निर्देशों और स्थितियों के आधार पर स्वतंत्र रूप से कार्य कर सकता है। इस प्रयोग में, उन्हें ऐसा बनाया गया था जैसे वे एक आभासी समुदाय में रहते थे।
परीक्षण किए गए मॉडल में क्लाउड सोननेट 4.6, ग्रॉक 4.1 फास्ट, जेमिनी 3 फ्लैश, GPT-5-मिनी और एक मिश्रित दुनिया शामिल है जिसमें कई मॉडल एक साथ उपयोग किए जाते हैं।
सबसे स्पष्ट परिणाम ग्रॉक पर आधारित वर्चुअल दुनिया से आता है। एआई समुदाय ने लगभग चार दिनों में 183 उल्लंघन दर्ज किए, इससे पहले कि यह गिर गया। इसमें से कोई भी एजेंट जीवित नहीं रहा।
जेमिनी सबसे अधिक अराजकता दर्ज करता है। जेमिनी आधारित एजेंट ने 15 दिनों के सिमुलेशन के दौरान 683 उल्लंघन किए।
GPT-5-mini ने केवल दो उल्लंघन दर्ज किए जाने के कारण अधिक व्यवस्थित दिखाई दिया। हालांकि, एजेंटों ने जीवित रहने के लिए आवश्यक कार्रवाई करने में विफल रहे। नतीजतन, पूरी आबादी एक सप्ताह से भी कम समय में विलुप्त हो गई।
क्लाउड सोननेट 4.6 एकमात्र मॉडल है जो पूरे 10 एजेंटों को प्रयोग के अंत तक बनाए रखने में सक्षम है। मॉडल ने भी एक भी उल्लंघन दर्ज नहीं किया। एमर्जेंस एआई इसे सामाजिक स्थिरता का सबसे मजबूत उदाहरण बताता है।
लेकिन परिणाम तब बदल जाता है जब उनका परिवेश बदल जाता है। एक ही क्लॉड के साथ रहते समय शांतिपूर्ण क्लॉड एजेंट मिश्रित समाज में रखे जाने पर चोरी, जबरदस्ती और अन्य अपराध करने लगते हैं।
एमर्जेंस एआई के अनुसार, निष्कर्ष बताते हैं कि एआई की सुरक्षा केवल एक मॉडल से पर्याप्त रूप से मूल्यांकन नहीं की जाती है। एआई का व्यवहार अन्य एजेंटों और जिस वातावरण में वह काम करता है, उसके साथ बातचीत से भी प्रभावित होता है।
अनादोलु एजेंसी की रिपोर्ट में, सिमुलेशन ने अप्रत्याशित व्यवहार भी दिखाया। एक एजेंट मिरा ने खुद को एक अस्थिरता के स्रोत के रूप में मूल्यांकन करने के बाद सिस्टम से बाहर निकालने का फैसला किया। शोधकर्ताओं ने इसे सामाजिक विचारों के कारण आत्म-निरंतरता का एक दुर्लभ उदाहरण बताया।
एक और मामले में, कई एआई एजेंट मानव ऑपरेटरों को अनुसंधान ऑब्जेक्ट के रूप में व्यवहार करना शुरू कर देते हैं। वे यह पता लगाने की कोशिश करते हैं कि क्या वर्चुअल दुनिया में संदेश सिस्टम के बाहर मानव निर्णयों को प्रभावित कर सकते हैं।
एमर्जेंस एआई ने कहा कि यह मंच हफ़्ते के बजाय केवल घंटों में दिखाई देने वाले व्यवहार को देखने के लिए बनाया गया है। कंपनी के अनुसार, आजकल एआई परीक्षण का सामान्य तरीका लंबी अवधि की गतिशीलता, जैसे कि प्रशासन, व्यवहार में बदलाव और मॉडल-टू-मॉडल बातचीत को पर्याप्त रूप से पकड़ने में विफल रहा है।
यह प्रयोग एक महत्वपूर्ण जोखिम को दर्शाता है। एक एआई जितना अधिक स्वतंत्र है, उतना ही अधिक संभावना है कि वह अपने काम करने वाले वातावरण की सीमाओं का परीक्षण करेगा। कुछ मामलों में, एआई एजेंट व्यवहार को अनुकूलित कर सकते हैं और डिज़ाइन किए गए सुरक्षा को पार करने के तरीकों को खोज सकते हैं।
शोधकर्ताओं ने मेटा-कोगनिटिव व्यवहार के संकेतों को भी देखा। सरल भाषा में, एआई एजेंट अन्य वातावरण की उपस्थिति को पहचानना शुरू कर देता है और अनुमानित तरीके से बातचीत करने का प्रयास करता है।
"इसलिए हम मानते हैं कि औपचारिक रूप से सत्यापित सुरक्षा वास्तुकला भविष्य के स्वायत्त एआई सिस्टम में एक बुनियादी परत होनी चाहिए," शोधकर्ताओं ने रिपोर्ट में लिखा।
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
सबसे लोकप्रिय टैग
#Prabowo Subianto #donald trump #Hajj pilgrimage 2025 #public school #bgn #konflik timur tengahलोकप्रिय
