केंद्र सरकार का 'X' को सख्त निर्देश, Grok AI से बना अश्लील कंटेंट 72 घंटे में हटाने का आदेश

केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म एक्स (X) को लेकर सख्त रुख अपनाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शुक्रवार को X को निर्देश दिया कि वह AI चैटबॉट Grok के जरिए बनाए जा रहे अश्लील, फूहड़ और आपत्तिजनक कंटेंट को तत्काल प्रभाव से हटाए। मंत्रालय ने साफ कहा है कि आदेश जारी होने के 72 घंटे के भीतर एक्शन टेकन रिपोर्ट (ATR) सौंपनी होगी, अन्यथा कानूनी कार्रवाई की जाएगी।

यह कार्रवाई शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी द्वारा उठाए गए गंभीर मुद्दे के बाद की गई है। उन्होंने IT मंत्री को पत्र लिखकर Grok AI के दुरुपयोग पर चिंता जताई थी और इसे महिलाओं की गरिमा और निजता पर सीधा हमला बताया था।

क्या है पूरा मामला

दरअसल, सोशल मीडिया प्लेटफॉर्म X पर कुछ यूजर्स फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं। इसके बाद वे Grok AI को ऐसे प्रॉम्प्ट दे रहे हैं, जिनमें महिलाओं की तस्वीरों को आपत्तिजनक, अश्लील या यौन संकेतों के साथ दिखाने को कहा जाता है। इन प्रॉम्प्ट्स में कपड़े बदलने, शरीर को गलत तरीके से दिखाने या तस्वीर को सेक्शुअल अंदाज में पेश करने जैसी मांगें शामिल होती हैं।

सबसे गंभीर बात यह है कि जिन महिलाओं की तस्वीरों का इस तरह इस्तेमाल हो रहा है, उनसे कोई अनुमति नहीं ली जाती। कई मामलों में संबंधित महिलाओं को यह तक जानकारी नहीं होती कि उनकी तस्वीरों को AI के जरिए इस तरह से बदला जा रहा है। आरोप है कि Grok AI ऐसी आपत्तिजनक मांगों को रोकने के बजाय उन्हें स्वीकार कर लेता है।

सरकार ने X पर लगाए गंभीर आरोप

MeitY का कहना है कि X ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम, 2021 के तहत अपनी कानूनी जिम्मेदारियों का सही ढंग से पालन नहीं किया है। मंत्रालय ने स्पष्ट किया है कि यदि आदेशों का पालन नहीं किया गया, तो X, उसके जिम्मेदार अधिकारियों और ऐसे कंटेंट को फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी रूल्स और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जाएगी।
प्रियंका चतुर्वेदी ने पत्र में क्या कहा

प्रियंका चतुर्वेदी ने अपने पत्र में लिखा कि सोशल मीडिया, खासकर X पर Grok AI का खुलेआम दुरुपयोग हो रहा है। उन्होंने कहा कि कुछ पुरुष फर्जी अकाउंट बनाकर महिलाओं की तस्वीरें पोस्ट कर रहे हैं और AI से कपड़े छोटे दिखाने या तस्वीरों को गलत तरीके से पेश करने को कह रहे हैं। यह समस्या सिर्फ फर्जी अकाउंट तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो खुद अपनी तस्वीरें सोशल मीडिया पर साझा करती हैं।

उन्होंने इसे महिलाओं की निजता का गंभीर उल्लंघन बताते हुए कहा कि यह केवल गलत नहीं, बल्कि डिजिटल अपराध है। प्रियंका चतुर्वेदी ने कहा कि भारत चुपचाप यह नहीं देख सकता कि टेक्नोलॉजी और इनोवेशन के नाम पर महिलाओं की इज्जत को सार्वजनिक और डिजिटल रूप से नुकसान पहुंचाया जाए।

आदेश न मानने पर क्या हो सकता है

आईटी एक्ट के तहत अगर किसी प्लेटफॉर्म पर अश्लील, महिला विरोधी या गैरकानूनी कंटेंट डाला जाता है, तो उसकी जानकारी मिलते ही उसे तुरंत हटाना प्लेटफॉर्म की कानूनी जिम्मेदारी है। अगर केंद्र सरकार या कोर्ट किसी कंटेंट को हटाने या अकाउंट ब्लॉक करने का आदेश देता है और प्लेटफॉर्म उसका पालन नहीं करता, तो उसे मिलने वाली कानूनी सुरक्षा (सेफ हार्बर) खत्म हो सकती है।

ऐसी स्थिति में X पर:

* आपराधिक मामले दर्ज हो सकते हैं
* भारी जुर्माना लगाया जा सकता है
* कंपनी के जिम्मेदार अधिकारियों पर FIR और पूछताछ हो सकती है
* IT Act की धारा 69A के तहत भारत में X के किसी अकाउंट, कंटेंट या यहां तक कि प्लेटफॉर्म के कुछ फीचर्स भी ब्लॉक किए जा सकते हैं

सरकार का स्पष्ट संदेश

केंद्र सरकार ने साफ कर दिया है कि भारत AI और तकनीकी नवाचार का समर्थन करता है, लेकिन महिलाओं को अपमानित करने, निशाना बनाने और उनकी निजता से खिलवाड़ करने वाले कंटेंट को किसी भी हाल में बर्दाश्त नहीं किया जाएगा। अब सभी की नजरें इस पर टिकी हैं कि X और उसकी पैरेंट कंपनी इस मामले में कितनी जल्दी और कितनी सख्ती से कार्रवाई करती है।