कनाडा की सरकार बी.सी. में गोलीबारी के बाद ओपनएआई पर "निराश" है, चैटबॉट विनियमन अब ध्रुव पर है

कनाडा के मंत्री, इवान सोलोमन (फोटो: x @CBCbrief)

जकार्ता - कनाडा की संघीय सरकार ने ओटावा में एक बैठक के बाद ओपनएआई को निराशा व्यक्त की, जिसमें कंपनी की विफलता के बारे में कानून प्रवर्तन अधिकारियों को चेतावनी दी गई थी कि ब्रिटिश कोलंबिया के टंबलर रिज में बड़े पैमाने पर गोलीबारी की गई थी।

कनाडा के कृत्रिम बुद्धिमत्ता मंत्री, इवान सोलोमन, ने कहा कि संघीय अधिकारियों ने ओपनएआई के प्रतिनिधियों को सीधे "निराशा" व्यक्त की। यह बैठक उनकी मांग पर आयोजित की गई थी, एक रिपोर्ट के बाद, जिसे उन्होंने "उत्तेजित" कहा, जिसमें संभावित हिंसा के संकेतों पर तेजी से तनाव के अभाव का उल्लेख किया गया था।

यह मामला तब सामने आया जब द वॉल स्ट्रीट जर्नल ने बताया कि अपराधी का खाता, जेसी वॉन रूटसेलर, कम से कम सात महीने पहले ओपनएआई के चैटजीपीटी प्लेटफॉर्म से ब्लॉक कर दिया गया था, क्योंकि इसमें बंदूक से किए गए हिंसक परिदृश्यों सहित संदिग्ध अपलोड शामिल थे। हालांकि, ओपनएआई ने पुलिस को 10 फरवरी को गोलीबारी के बाद तक नहीं बताया।

अपने बयान में, सोलोमन ने कहा कि कंपनी ने बैठक में "कोई महत्वपूर्ण नई सुरक्षा उपाय" नहीं दिखाया, लेकिन एक और अधिक ठोस प्रस्ताव के साथ वापस आने का वादा किया। उन्होंने यह भी पुष्टि की कि ओपनएआई अभी भी चल रहे एक जांच में रॉयल कनाडाई घुड़सवार पुलिस (RCMP) के साथ काम कर रहा है।

"हम मामले के विवरण पर चर्चा नहीं करते हैं क्योंकि यह एक आपराधिक जांच है," सोलोमन ने संसद हिल में कैबिनेट की बैठक से पहले पत्रकारों से कहा। उन्होंने कहा कि विश्वसनीय चेतावनी के संकेतों को तुरंत रिपोर्ट किया जाना चाहिए, न कि केवल आंतरिक रूप से समीक्षा की जानी चाहिए जब सार्वजनिक सुरक्षा दांव पर है।

OpenAI ने पहले कहा था कि वॉन रूटसेलर का खाता जून में ब्लॉक किया गया था, लेकिन यह माना जाता है कि गतिविधि ने कानून प्रवर्तन को शामिल करने के लिए दहलीज को पूरा नहीं किया क्योंकि यह विश्वसनीय योजना या तत्काल खतरे का संकेत नहीं देता है।

यह मुद्दा एआई कंपनियों की जिम्मेदारी पर व्यापक बहस को प्रेरित करता है। कैलगरी विश्वविद्यालय में साइबर सुरक्षा और कनाडा अनुसंधान चेयर के कानून विशेषज्ञ एमिली लेडवु ने कहा कि कनाडा एआई कंपनियों को ऑनलाइन खतरों की रिपोर्ट करने के लिए पुलिस को बाध्य करने वाले कानून पर विचार कर सकता है। हालांकि, उन्होंने चेतावनी दी कि इस तरह के नियमों को डिजाइन करना आसान काम नहीं है।

"आप हर संदेह को पुलिस को रिपोर्ट करने के लिए बाध्य नहीं कर सकते। यह यथार्थवादी नहीं है," लेडलॉ ने कहा। उनके अनुसार, प्रत्येक एआई कंपनी वर्तमान में कानून प्रवर्तन अधिकारियों से कब संपर्क करना है, इस पर अपना स्वयं का नीति निर्धारित करती है। कनाडा ने 2021 में इसी तरह के रिपोर्टिंग नियमों पर विचार किया था, लेकिन यह महत्वपूर्ण अस्वीकृति के बाद कभी भी लागू नहीं किया गया था।

ब्रिटिश कोलंबिया के प्रधान मंत्री डेविड एबी ने संघीय सरकार से स्पष्ट और पारदर्शी रिपोर्टिंग सीमा निर्धारित करने का आग्रह किया। उन्होंने कहा कि नियमों को निजी सुरक्षा के जोखिम से कंपनियों की रक्षा करनी चाहिए और साथ ही नागरिकों की सुरक्षा सुनिश्चित करनी चाहिए।

"मैं चाहता हूं कि वे पीड़ितों के परिवार को सीधे देखें और समझाएं कि उन्होंने यह निर्णय क्यों लिया," एबी ने कहा, यह कहते हुए कि उन्होंने ओपनएआई के प्रतिनिधियों के साथ खुद को एक बैठक के लिए कहा था।

कनाडा के संघीय न्याय मंत्री, शॉन फ्रेजर ने कहा कि कानून प्रवर्तन अधिकारी जानकारी एकत्र कर रहे हैं और टंबलर रिज मामले में क्या हुआ, इस पर एक व्यवस्थित समीक्षा हो सकती है। "हमें यह समझने की आवश्यकता है कि कौन सी बातचीत वर्तमान में कानून प्रवर्तन द्वारा नहीं देखी जा रही है, लेकिन भविष्य में त्रासदी को रोकने में बहुत मदद कर सकती है," उन्होंने कहा।

लिबरल सरकार ने पिछले महीने पुष्टि की थी कि वे ऑनलाइन खतरों से निपटने के लिए नए कानून बना रहे हैं। 2024 में, सरकार ने एक नियम पेश किया था जो सोशल मीडिया कंपनियों को यह बताने के लिए बाध्य करता है कि वे उपयोगकर्ताओं के लिए जोखिम को कैसे कम करते हैं और बच्चों की सुरक्षा के लिए दायित्व निर्धारित करते हैं। लेकिन यह ड्राफ्ट 2025 के चुनाव से पहले गिर गया।

कनाडा के संस्कृति मंत्री मार्क मिलर ने कहा कि कानून की आवश्यकता अभी भी मौजूद है, हालांकि इसका सही रूप अभी निर्धारित नहीं किया गया है। "प्लेटफ़ॉर्म को जिम्मेदारी से कार्य करना चाहिए, लेकिन यह कैसे विनियमित किया जाता है अभी भी चर्चा में है," उन्होंने कहा।

यह मामला एआई युग के एक दुविधा को दर्शाता है: एक डिजिटल बातचीत कब सिर्फ अभिव्यक्ति से वास्तविक ख़तरे का संकेत बन जाती है? यदि दहलीज़ बहुत कम है, तो पुलिस उन रिपोर्टों से बाढ़ हो जाएगी जो निश्चित रूप से प्रासंगिक नहीं हैं। यदि यह बहुत अधिक है, तो एक दुखद जोखिम चूक सकता है।

सार्वजनिक दबाव और पीड़ित परिवारों के दुःख के बीच, ओटावा अब एक बुनियादी सवाल का सामना कर रहा है: क्या चैटबॉट केवल एक तटस्थ उपकरण है, या यह पहले से ही एक सामाजिक अभिनेता बन गया है जो नई कानूनी जिम्मेदारियों को वहन करता है? उस समय जब एल्गोरिदम मनुष्य को पहले से ही पता चलने से पहले इरादे पढ़ता है, निजता, अभिव्यक्ति की स्वतंत्रता और सार्वजनिक सुरक्षा के बीच की रेखाएं कम हो जाती हैं - और निर्धारित करने के लिए और भी अधिक आग्रह करती हैं।