ग्रोक एआई की अश्लील सामग्री पर सरकार सख्त, एक्स को इलेक्ट्रॉनिक्स मंत्रालय का नोटिस
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म एक्स को ग्रोक एआई से जुड़ी अश्लील और आपत्तिजनक सामग्री को लेकर कड़ा नोटिस जारी किया है। मंत्रालय ने एक्स को निर्देश दिया है कि वह अपने प्लेटफॉर्म पर ग्रोक एआई के जरिए बनाई और साझा की जा रही अश्लील सामग्री को तुरंत हटाए और इस पर की गई कार्रवाई की विस्तृत रिपोर्ट प्रस्तुत करे।
सूत्रों के अनुसार सरकार ने चिंता जताई है कि ग्रोक एआई का दुरुपयोग कर फर्जी अकाउंट बनाए जा रहे हैं और उनके माध्यम से महिलाओं की अश्लील तस्वीरें और वीडियो अपमानजनक व भद्दे तरीके से होस्ट, जेनरेट और साझा किए जा रहे हैं। इस संबंध में एक्स के इंडिया ऑपरेशंस के मुख्य अनुपालन अधिकारी को लिखे पत्र में मंत्रालय ने कहा है कि यह गतिविधियां सूचना प्रौद्योगिकी अधिनियम 2000 और आईटी नियम 2021 का सीधा उल्लंघन हैं।
मंत्रालय ने स्पष्ट किया है कि भारत में काम कर रहे सभी डिजिटल और सोशल मीडिया प्लेटफॉर्म के लिए आईटी अधिनियम और आईटी नियमों का पालन करना अनिवार्य है। एआई आधारित सेवाओं का उपयोग कर अश्लील, नग्न, अभद्र और आपत्तिजनक सामग्री का प्रसार न केवल कानून के खिलाफ है बल्कि समाज और विशेष रूप से महिलाओं की गरिमा और सुरक्षा के लिए भी गंभीर खतरा है।
सरकार ने एक्स से यह भी कहा है कि वह ग्रोक एआई के दुरुपयोग को रोकने के लिए मजबूत तकनीकी और नीतिगत कदम उठाए और यह सुनिश्चित करे कि उसके प्लेटफॉर्म का इस्तेमाल अवैध और अनैतिक गतिविधियों के लिए न हो। मंत्रालय ने तत्काल अनुपालन कार्रवाई रिपोर्ट मांगते हुए कहा है कि इसमें यह बताया जाए कि अब तक क्या कदम उठाए गए हैं और आगे ऐसी घटनाओं को रोकने के लिए क्या व्यवस्था की गई है।
इलेक्ट्रॉनिक्स मंत्रालय ने चेतावनी दी है कि यदि एक्स ने नियमों का पालन नहीं किया तो इसे गंभीरता से लिया जाएगा और सोशल मीडिया प्लेटफॉर्म के खिलाफ सख्त कानूनी कार्रवाई की जाएगी। यह नोटिस भारत में एआई और सोशल मीडिया के जिम्मेदार और सुरक्षित इस्तेमाल को सुनिश्चित करने की दिशा में सरकार का अहम कदम माना जा रहा है।
