JAKARTA - सोशल मीडिया प्लेटफॉर्म X कंपनी xAI के Grok द्वारा बनाए गए एक कथित रूप से आक्रामक अपलोड की जांच कर रहा है। यह जांच तब की गई जब यह बताया गया कि चैटबोट ने उपयोगकर्ता के सवालों के जवाब में नस्लवादी और घृणित सामग्री बनाई थी।
रिपोर्ट पहली बार ब्रिटिश मीडिया, स्काई न्यूज द्वारा रविवार, 8 मार्च 2026 को प्रकाशित की गई थी। रिपोर्ट में कहा गया है कि एक्स सुरक्षा टीम ग्रॉक की संभावित भूमिका की तत्काल जांच कर रही है, जो प्लेटफ़ॉर्म पर प्रसारित होने वाली समस्याग्रस्त अपलोड का उत्पादन करती है।
स्काई न्यूज के रिपोर्टर, रॉब हैरिस, ने कहा कि प्लेटफ़ॉर्म पक्ष यह पता लगा रहा है कि चैटबॉट कैसे सामग्री का उत्पादन कर सकता है जिसे नियमों का उल्लंघन माना जाता है।
"X सुरक्षा टीम ऑनलाइन नफरत और नस्लवाद के लिए एक प्रतिक्रिया के रूप में ऑनलाइन अपलोड करने में इस चैटबोट की भूमिका के संबंध में एक तत्काल जांच कर रही है," हैरिस ने एक वीडियो में कहा, जिसे X प्लेटफ़ॉर्म पर स्काई न्यूज़ के आधिकारिक खाते पर अपलोड किया गया था।
जब तक यह खबर लिखी गई थी, तब तक एक्स प्लेटफ़ॉर्म और चैटबॉट डेवलपर कंपनी, xAI, मीडिया से टिप्पणी के अनुरोध पर कोई आधिकारिक प्रतिक्रिया नहीं दे रहा था।
यह मामला तकनीकी कंपनियों के स्वामित्व वाले कृत्रिम बुद्धिमत्ता आधारित चैटबॉट की एक बढ़ती सूची को दर्शाता है, जिसे जनता द्वारा अधिक से अधिक उपयोग किया जाता है। चैटबॉट ग्रॉक खुद एक जनरेटिव एआई सेवा है जिसे टेक्नोलॉजी के अरबपति एलोन मस्क की कंपनी द्वारा विकसित किया गया है।
पिछले कुछ महीनों में, कई देशों की सरकारों और नियामकों ने एआई द्वारा उत्पादित सामग्री, विशेष रूप से अवैध या अनुचित सामग्री से संबंधित निगरानी बढ़ा दी है। ग्रॉक पहले से ही यौन रूप से स्पष्ट सामग्री बनाने के लिए सुर्खियों में था।
नियामकों के दबाव के जवाब में, जनवरी में xAI ने कहा कि उसने ग्रॉक पर कई सुविधाओं को सख्त कर दिया है। कंपनी ने छवि संपादन क्षमताओं को सीमित कर दिया है और उपयोगकर्ताओं को उन स्थानों पर ब्लॉक कर दिया है जहां वे ऐसे सामग्री पर प्रतिबंध लगाने वाले क्षेत्रों में बहुत खुले कपड़े पहने लोगों की छवियां नहीं बना सकते हैं।
हालांकि, xAI ने यह नहीं बताया कि प्रतिबंध में कौन से देश शामिल हैं।
X द्वारा हालिया जांच से पता चलता है कि जनरेटिव एआई तकनीक द्वारा उत्पन्न खतरनाक सामग्री के जोखिम पर बढ़ता ध्यान, खासकर जब सिस्टम सीधे सोशल मीडिया प्लेटफॉर्म पर उपयोगकर्ताओं के आदेश का जवाब देता है।
The English, Chinese, Japanese, Arabic, and French versions are automatically generated by the AI. So there may still be inaccuracies in translating, please always see Indonesian as our main language. (system supported by DigitalSiber.id)
