केंद्र सरकार ने X प्लेटफॉर्म को अश्लील सामग्री हटाने का दिया आदेश, AI के दुरुपयोग पर उठे सवाल

नई दिल्ली में केंद्र सरकार की कार्रवाई

नई दिल्ली : केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म X (जिसे पहले ट्विटर कहा जाता था) को तुरंत प्रभाव से अश्लील, नग्न, अभद्र और यौन रूप से आपत्तिजनक सामग्री को हटाने का निर्देश दिया है। यह आदेश विशेष रूप से आर्टिफिशियल इंटेलिजेंस आधारित टूल Grok AI के दुरुपयोग के संदर्भ में जारी किया गया है। यह कार्रवाई सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत की गई है।

इलेक्ट्रॉनिक्स और आईटी मंत्रालय की चेतावनी

इलेक्ट्रॉनिक्स और आईटी मंत्रालय की चेतावनी
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने X के चीफ कंप्लायंस ऑफिसर को एक आधिकारिक पत्र भेजा है। पत्र में कहा गया है कि प्लेटफॉर्म को Grok AI की पूरी समीक्षा करनी होगी और सभी अवैध सामग्री को हटाना या उस तक पहुंच रोकना अनिवार्य है। मंत्रालय ने स्पष्ट किया है कि कानून का उल्लंघन करने वाली किसी भी सामग्री को बर्दाश्त नहीं किया जाएगा।

महिलाओं को निशाना बनाने पर चिंता

महिलाओं को निशाना बनाने पर गंभीर चिंता
MeitY के पत्र में यह उल्लेख किया गया है कि Grok AI का उपयोग कुछ यूजर्स द्वारा फर्जी अकाउंट बनाकर महिलाओं की आपत्तिजनक, अश्लील और अपमानजनक तस्वीरें और वीडियो बनाने के लिए किया जा रहा है। मंत्रालय के अनुसार, इस तरह की सामग्री का उद्देश्य महिलाओं को सार्वजनिक रूप से अपमानित करना और उनकी गरिमा को ठेस पहुंचाना है, जो कानूनन गंभीर अपराध की श्रेणी में आता है।

प्लेटफॉर्म सुरक्षा व्यवस्था पर सवाल

प्लेटफॉर्म सुरक्षा व्यवस्था पर सवाल
सरकार ने इस मामले को प्लेटफॉर्म स्तर पर सुरक्षा तंत्र की विफलता बताया है। पत्र में कहा गया है कि इस तरह की गतिविधियां दर्शाती हैं कि X ने कंटेंट मॉडरेशन और एआई के जिम्मेदार उपयोग के लिए पर्याप्त नियंत्रण व्यवस्था लागू नहीं की है। मंत्रालय का मानना है कि यह आर्टिफिशियल इंटेलिजेंस तकनीक का गंभीर दुरुपयोग है, जो मौजूदा कानूनों का उल्लंघन करता है।

IT Act और नियमों के तहत जिम्मेदारी

IT Act और नियमों के तहत जिम्मेदारी
सूचना प्रौद्योगिकी अधिनियम और IT नियम, 2021 के तहत डिजिटल प्लेटफॉर्म्स की यह जिम्मेदारी होती है कि वे अवैध, आपत्तिजनक और समाज के लिए नुकसानदेह सामग्री को रोकें। यदि कोई प्लेटफॉर्म इसमें विफल रहता है, तो उसके खिलाफ कानूनी कार्रवाई की जा सकती है। सरकार ने X को स्पष्ट संकेत दिया है कि यदि नियमों का पालन नहीं किया गया, तो कड़े कदम उठाए जा सकते हैं।

AI तकनीक के दुरुपयोग पर बढ़ती चिंता

AI तकनीक के दुरुपयोग पर बढ़ती चिंता
यह मामला केवल एक सोशल मीडिया प्लेटफॉर्म तक सीमित नहीं है, बल्कि यह आर्टिफिशियल इंटेलिजेंस के बढ़ते उपयोग और उसके दुरुपयोग से जुड़ी व्यापक चिंता को भी उजागर करता है। सरकार का कहना है कि AI तकनीक का इस्तेमाल समाज के हित में होना चाहिए, न कि किसी व्यक्ति या वर्ग की छवि खराब करने के लिए।

भविष्य में सख्ती के संकेत

भविष्य में सख्ती के संकेत
MeitY ने संकेत दिए हैं कि आने वाले समय में AI आधारित सेवाओं और सोशल मीडिया प्लेटफॉर्म्स पर निगरानी और सख्त की जा सकती है। सरकार यह सुनिश्चित करना चाहती है कि डिजिटल प्लेटफॉर्म्स जिम्मेदारी के साथ काम करें और महिलाओं की सुरक्षा, गरिमा और कानून के सम्मान से कोई समझौता न हो।