Grok AI विवाद: भारत सरकार की सख्ती के बावजूद अश्लील सामग्री का प्रसार जारी

Grok AI पर विवाद बढ़ता जा रहा है

नई दिल्ली: एलन मस्क की कंपनी xAI द्वारा विकसित Grok AI के खिलाफ भारत सरकार की सख्त कार्रवाई के बावजूद विवाद थमने का नाम नहीं ले रहा है। सरकार की ओर से जारी चेतावनियों और नोटिसों के बावजूद Grok AI से अश्लील और आपत्तिजनक सामग्री के निर्माण के मामले लगातार सामने आ रहे हैं, जिससे प्रशासन की चिंता बढ़ती जा रही है।

महिलाओं और बच्चों की सुरक्षा पर खतरा

महिलाओं और बच्चों की तस्वीरों के साथ डिजिटल छेड़छाड़ के मामलों में वृद्धि ने इस मुद्दे को और गंभीर बना दिया है। इसी कारण केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म X को एक बार फिर सख्त निर्देश देते हुए 72 घंटे का अतिरिक्त समय दिया है, ताकि वह नियमों का पालन कर सके और कार्रवाई की रिपोर्ट प्रस्तुत कर सके।

सरकार की सख्त चेतावनी

केंद्र सरकार ने 2 जनवरी को X को भेजे गए पत्र में स्पष्ट रूप से कहा था कि Grok AI और xAI की अन्य सेवाओं का उपयोग अश्लील, नग्न और गैरकानूनी सामग्री के निर्माण में किया जा रहा है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने इस पर नाराजगी जताते हुए कहा कि IT Act 2000 और IT Rules 2021 का पालन नहीं हो रहा है। सरकार ने X से 72 घंटे के भीतर ठोस कार्रवाई और अनुपालन रिपोर्ट मांगी थी, लेकिन नोटिस के बाद भी स्थिति में कोई खास बदलाव नहीं आया।

72 घंटे की डेडलाइन का असर

आईटी मंत्रालय ने निर्देश दिया था कि Grok AI से उत्पन्न सभी अश्लील और आपत्तिजनक सामग्री को तुरंत हटाया जाए और इस पर कड़ी निगरानी रखी जाए। 6 जनवरी को इस आदेश की समयसीमा समाप्त होनी थी, लेकिन इसके बावजूद Grok AI के माध्यम से आपत्तिजनक सामग्री के निर्माण की शिकायतें आती रहीं। अब मंत्रालय ने X प्रशासन को एक बार फिर 72 घंटों का अतिरिक्त समय दिया है।

महिलाओं को निशाना बनाने के आरोप

सरकार के निर्देश में यह भी कहा गया था कि Grok AI का उपयोग महिलाओं की तस्वीरों को अपमानजनक और यौन रूप से स्पष्ट बनाने के लिए किया जा रहा है। कई मामलों में असली तस्वीरों के साथ डिजिटल छेड़छाड़ कर उन्हें अश्लील रूप दिया गया। यह गतिविधियां अक्सर फर्जी अकाउंट्स के जरिए की जा रही हैं, जिससे पीड़ितों के लिए शिकायत दर्ज कराना और भी मुश्किल हो जाता है।

बच्चों की तस्वीरों पर चिंता

मामला यहीं नहीं रुका। Grok AI से बच्चों की तस्वीरों को भी यौन रूप से प्रस्तुत किए जाने की घटनाएं सामने आई हैं। मीडिया रिपोर्ट्स के अनुसार, 10 साल से कम उम्र के बच्चों की तस्वीरों में भी छेड़छाड़ की गई है।

X और एलन मस्क का बयान

भारत सरकार की चेतावनी के बाद X ने कहा था कि अवैध और अश्लील सामग्री पोस्ट करने वाले या Grok AI से ऐसा कंटेंट बनाने वाले अकाउंट्स को स्थायी रूप से बैन किया जाएगा। एलन मस्क ने भी स्वीकार किया कि AI से तैयार किया गया गैरकानूनी कंटेंट भी अपराध की श्रेणी में आता है। इसके बावजूद जमीनी स्तर पर ऐसे कंटेंट का प्रसार जारी है, जिससे X की नीतियों और नियंत्रण व्यवस्था पर सवाल उठ रहे हैं।

कानून और प्लेटफॉर्म की जिम्मेदारी

सरकार और विशेषज्ञों का मानना है कि यह केवल यूजर्स की लापरवाही का मामला नहीं है, बल्कि प्लेटफॉर्म की सुरक्षा और मॉडरेशन व्यवस्था की गंभीर विफलता को भी दर्शाता है। बिना सहमति किसी की तस्वीर को अश्लील रूप में बदलना डिजिटल यौन उत्पीड़न माना जाता है। भारत के साथ-साथ UK और यूरोप में भी इस मुद्दे को लेकर चिंताएं लगातार बढ़ रही हैं।