xAI के ग्रोक चैटबॉट पर मलेशिया और इंडोनेशिया में बैन

xAI के ग्रोक चैटबॉट पर बैन की कार्रवाई

नई दिल्ली: xAI का आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक को अस्थायी रूप से इंडोनेशिया और मलेशिया में बैन कर दिया गया है। इस टूल को कई देशों से आलोचना का सामना करना पड़ा, जिसके परिणामस्वरूप यह निर्णय लिया गया। समस्या तब शुरू हुई जब ग्रोक ने उन तस्वीरों को संपादित करना शुरू किया, जिन्हें उपयोगकर्ता सार्वजनिक रूप से साझा करते थे। हालांकि, यह फीचर रचनात्मकता और मनोरंजन के लिए था, लेकिन कुछ लोगों ने इसका दुरुपयोग करना शुरू कर दिया।

कई उपयोगकर्ताओं ने ग्रोक का उपयोग बिना अनुमति के दूसरों की तस्वीरों का गलत इस्तेमाल करने के लिए किया। कुछ लोग अपनी तस्वीरें एक्स पर साझा करते थे, और अन्य ने उन तस्वीरों को गलत तरीके से संपादित किया। इस दुरुपयोग के कारण, यूरोपीय संघ, भारत, इंडोनेशिया और मलेशिया जैसे विभिन्न देशों की सरकारों और नियामकों ने xAI और इस AI टूल की सुरक्षा नियंत्रणों पर सवाल उठाना शुरू कर दिया।

कंपनियों द्वारा उठाए गए कदम

जैसे-जैसे समस्या बढ़ी, कंपनियों ने इस इमेज-एडिटिंग फीचर को सीमित करने का निर्णय लिया, ताकि केवल सत्यापित उपयोगकर्ता ही इसका उपयोग कर सकें। हालांकि, अधिकारियों को यह कदम अपर्याप्त लगा। इस समस्या का मुख्य कारण AI को असली और हानिकारक नकली तस्वीरें बनाने की अनुमति देना है। यह समस्या अभी भी पूरी तरह से हल नहीं हुई है, जिससे उपयोगकर्ता की सुरक्षा को लेकर चिंताएं बनी हुई हैं।

मलेशिया में एक्स का बैन

मलेशिया में, मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने घोषणा की कि ग्रोक को अस्थायी रूप से ब्लॉक किया जाएगा। एक्स पर एक पोस्ट में, नियामक ने कहा कि यह निर्णय इसलिए लिया गया क्योंकि X और xAI बार-बार चेतावनी के बावजूद मजबूत सुरक्षा उपाय लागू करने में असफल रहे। बयान में बताया गया कि ग्रोक का कई बार पोर्नोग्राफिक और अत्यधिक आपत्तिजनक सामग्री बनाने के लिए दुरुपयोग किया गया था, जिसमें बिना सहमति के बनाई गई नकली तस्वीरें भी शामिल थीं।

इंडोनेशिया में एक्स का बैन

इंडोनेशिया ने भी इसी तरह की कार्रवाई की। देश की संचार और डिजिटल मामलों की मंत्री, मेउट्या हाफिद ने घोषणा की कि ग्रोक तक पहुंच को अस्थायी रूप से निलंबित कर दिया गया है। सरकार ने कहा कि यह कदम महिलाओं, बच्चों और आम जनता को AI तकनीक का उपयोग करके बनाए गए नकली पोर्नोग्राफिक सामग्री के खतरों से बचाने के लिए उठाया गया है। इंडोनेशियाई मंत्री ने बिना सहमति के सेक्शुअल डीपफेक इमेज बनाने की कड़ी आलोचना की, इसे मानवाधिकारों, व्यक्तिगत गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया।