महिलाओं की तस्वीरों के दुरुपयोग पर भारत सरकार की सख्त कार्रवाई

नई दिल्ली में एआई ग्रोक के मामले पर सरकार की प्रतिक्रिया

नई दिल्ली: एआई ग्रोक (Grok AI) के माध्यम से महिलाओं की आपत्तिजनक तस्वीरें बनाने के मामले में, सोशल मीडिया प्लेटफॉर्म 'एक्स' ने भारत सरकार को अपना जवाब प्रस्तुत किया है। हालांकि, सरकार इस जवाब से संतुष्ट नहीं है और इसे असंतोषजनक बताया है।

कार्रवाई का विस्तृत विवरण मांगा गया

सूचना एवं प्रौद्योगिकी मंत्रालय ने कंपनी से मामले में उठाए गए कदमों का विस्तृत विवरण मांगा है। सूत्रों के अनुसार, कंपनी द्वारा भेजी गई रिपोर्ट पूरी तरह से संतोषजनक नहीं मानी जा रही है, और मंत्रालय इसके जवाब का गहन विश्लेषण कर रहा है। रिपोर्ट में कंपनी द्वारा दिए गए तथ्यों का खुलासा अभी तक सार्वजनिक नहीं किया गया है।

सरकार की चेतावनी और निर्देश

केंद्र सरकार ने पहले ही एक्स को चेतावनी दी थी कि यदि इस प्रकार के मामले पुनः सामने आए, तो कंपनी को कड़ी कानूनी कार्रवाई का सामना करना पड़ेगा। दो जनवरी को सरकार ने एक्स को निर्देश दिए थे कि वे तुरंत सभी आपत्तिजनक तस्वीरें हटा दें। इसके बाद कंपनी ने कहा था कि वह मामले की जांच में सरकार का पूरा सहयोग करेगी।

एक्शन टेकन रिपोर्ट दाखिल की गई

सूत्रों के अनुसार, कंपनी ने मंत्रालय में एक्शन टेकन रिपोर्ट (Action Taken Report) प्रस्तुत कर दी है। मंत्रालय अब इसकी जांच कर रहा है। सरकार ने चेतावनी दी थी कि यदि एआई टूल्स के गलत उपयोग को रोकने के लिए कदम नहीं उठाए गए, तो एक्स को भारतीय कानूनों के तहत मिलने वाली कानूनी सुरक्षा भी समाप्त की जा सकती है।

Grok के दुरुपयोग पर चिंता

शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने AI चैटबोट Grok के दुरुपयोग पर चिंता व्यक्त की थी। उन्होंने आईटी मंत्री को पत्र लिखकर बताया कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं। कई बार महिलाओं को खुद भी नहीं पता होता कि उनकी तस्वीरों का इस तरह गलत इस्तेमाल हो रहा है।

क्या है पूरा मामला

कई यूजर्स सोशल मीडिया प्लेटफॉर्म 'एक्स' पर फर्जी अकाउंट बनाते हैं। इन अकाउंट्स के माध्यम से वे महिलाओं की तस्वीरें पोस्ट करते हैं और फिर Grok AI को निर्देश देते हैं कि तस्वीर को आपत्तिजनक रूप में बदल दिया जाए। AI से कपड़े बदलने या अन्य अश्लील रूप देने जैसी प्रॉम्प्ट्स दी जाती हैं।

सरकार का आदेश

सूचना एवं प्रौद्योगिकी मंत्रालय ने स्पष्ट किया है कि एक्स ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत अपनी कानूनी जिम्मेदारियों का पालन नहीं किया। यदि नियमों का पालन नहीं किया गया, तो एक्स के अधिकारियों और ऐसे कंटेंट फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी नियम और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है। यह मामला AI टूल्स के दुरुपयोग और महिलाओं की सुरक्षा के मुद्दे को लेकर गंभीर चिंता पैदा कर रहा है। सरकार ने इसे रोकने के लिए कड़े कदम उठाने का संकेत दिया है।