दक्षिण-पूर्व एशिया के दो प्रमुख देश-मलेशिया और इंडोनेशिया-एलन मस्क की कंपनी ‘xAI’ द्वारा विकसित AI चैटबॉट ‘ग्रोक’ (Grok) पर रोक लगाने वाले दुनिया के पहले देश बन गए हैं। यह फैसला उस समय लिया गया है जब इस टूल के ज़रिये अश्लील और बिना सहमति के डीपफेक चित्र बनाए जाने के गंभीर आरोप सामने आए। अधिकारियों का कहना है कि ग्रोक के मौजूदा सुरक्षा तंत्र ऐसे दुरुपयोग को रोकने में नाकाम रहे हैं।
इन दोनों देशों की कार्रवाई से यह साफ झलकता है कि जनरेटिव आर्टिफिशियल इंटेलिजेंस को लेकर वैश्विक स्तर पर चिंता बढ़ती जा रही है। ऐसे AI टूल्स बेहद वास्तविक दिखने वाले चित्र, आवाज़ और टेक्स्ट तैयार करने में सक्षम हैं, लेकिन उनके दुरुपयोग पर प्रभावी नियंत्रण अब भी एक बड़ी चुनौती बना हुआ है। भारत समेत कई देशों में AI-आधारित डीपफेक के खतरनाक मामले सामने आ चुके हैं, जो किसी व्यक्ति की प्रतिष्ठा, मानसिक स्वास्थ्य और यहां तक कि जीवन-मरण तक के संकट पैदा कर सकते हैं।
क्यों लगाया गया Grok पर प्रतिबंध?
Grok, जो एलन मस्क के सोशल मीडिया प्लेटफॉर्म X के माध्यम से उपलब्ध है, पर आरोप है कि इसका इस्तेमाल महिलाओं और बच्चों से जुड़ी आपत्तिजनक व छेड़छाड़ वाली सामग्री तैयार करने में किया जा रहा था। मलेशिया और इंडोनेशिया के नियामकों का कहना है कि मौजूदा निगरानी और नियंत्रण तंत्र फर्जी अश्लील कंटेंट, खासकर महिलाओं और नाबालिगों से संबंधित सामग्री के निर्माण और प्रसार को रोकने में पूरी तरह असफल साबित हुए हैं।
इसी कारण इंडोनेशिया सरकार ने शनिवार को Grok तक पहुंच को अस्थायी रूप से निलंबित कर दिया, जबकि मलेशिया ने रविवार को इसी तरह की कार्रवाई की। इंडोनेशिया की संचार और डिजिटल मामलों की मंत्री मेउत्या हाफिद ने अपने बयान में कहा कि सरकार गैर-सहमति वाले डीपफेक को मानवाधिकारों, व्यक्तिगत गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा के खिलाफ एक गंभीर अपराध मानती है। मंत्रालय के अनुसार यह कदम AI के ज़रिये बनाई जा रही नकली अश्लील सामग्री से महिलाओं, बच्चों और पूरे समाज की रक्षा के उद्देश्य से उठाया गया है।
यह भी पढ़ें : Delhi में शुरू होगा इको-फ्रेंडली क्रूज, यमुना पर बढ़ेगा रिवर टूरिज्म…
