केंद्र सरकार ने ग्रोक से अश्लील सामग्री हटाने का आदेश दिया

केंद्र सरकार का सख्त निर्देश

केंद्र सरकार ने इलॉन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स को निर्देश दिया है कि वह तुरंत अश्लील और अवैध सामग्री को हटाए। यदि एक्स इस आदेश का पालन नहीं करता है, तो उसके खिलाफ कार्रवाई की जाएगी। यह आदेश विशेष रूप से एआई ऐप ग्रोक द्वारा उत्पन्न आपत्तिजनक सामग्री के संदर्भ में जारी किया गया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने एक्स के भारत में मुख्य अनुपालन अधिकारी को नोटिस भेजा है और 72 घंटे के भीतर इस संबंध में रिपोर्ट भी मांगी है।

एक्स की कानूनी जिम्मेदारियों की अनदेखी

मंत्रालय का कहना है कि एक्स ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत अपनी कानूनी जिम्मेदारियों का पालन नहीं किया है। यदि नियमों का उल्लंघन जारी रहा, तो इसके जिम्मेदार अधिकारियों और ऐसे सामग्री फैलाने वाले उपयोगकर्ताओं के खिलाफ सख्त कार्रवाई की जा सकती है।

प्रियंका चतुर्वेदी की मांग

शिवसेना (यूबीटी) की सांसद प्रियंका चतुर्वेदी ने हाल ही में एआई चैटबोट ग्रोक के दुरुपयोग पर चिंता व्यक्त की थी और केंद्र सरकार से सख्त कार्रवाई की अपील की थी। उन्होंने आईटी मंत्री को पत्र लिखकर बताया कि कुछ लोग एआई का उपयोग करके महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं, जो एक गंभीर मुद्दा है।

ग्रोक के माध्यम से आपत्तिजनक सामग्री का निर्माण

कुछ उपयोगकर्ता सोशल मीडिया प्लेटफॉर्म एक्स पर फर्जी अकाउंट बनाते हैं और महिलाओं की तस्वीरें साझा करते हैं। इसके बाद, ग्रोक एआई को निर्देश दिया जाता है कि वह इन तस्वीरों को गलत और आपत्तिजनक तरीके से प्रस्तुत करे। एआई को कपड़े बदलने या तस्वीरों को यौन संदर्भ में पेश करने के लिए प्रॉम्प्ट दिए जाते हैं।

इन तस्वीरों के लिए महिलाओं से कोई अनुमति नहीं ली जाती है, और कई बार वे खुद भी नहीं जानतीं कि उनकी तस्वीरों का ऐसा दुरुपयोग हो रहा है। आरोप है कि ग्रोक इस प्रकार की गलत मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है, जिससे ऐसी गतिविधियों को बढ़ावा मिल रहा है।