एलन मस्क के सोशल मीडिया प्लेटफॉर्म X ने आपत्तिजनक कंटेंट को लेकर अपनी गलती मान ली है और आगे से भारतीय कानूनों का पूरी तरह से पालन करने का वादा किया है. इस कार्रवाई के तहत प्लेटफॉर्म ने AI टूल Grok से जुड़े 3,500 से अधिक आपत्तिजनक कंटेंट ब्लॉक कर दिए हैं और 600 से ज्यादा अकाउंट्स डिलीट कर दिए हैं. सरकारी सूत्रों के मुताबिक, सोशल मीडिया प्लेटफॉर्म ने यह भी भरोसा दिलाया है कि भविष्य में अश्लील या आपत्तिजनक इमेजरी को प्लेटफॉर्म पर अनुमति नहीं दी जाएगी.
AI टूल के गलत इस्तेमाल पर मांगा गया था जवाब
भारत सरकार ने अमेरिकी बिजनेसमैन के स्वामित्व वाली सोशल मीडिया कंपनी X को AI टूल ‘Grok’ के दुरुपयोग से जुड़े मामलों में जवाबदेही तय करने के लिए 7 जनवरी तक का समय दिया था. सरकार ने कंपनी से इस मामले में की गई कार्रवाई पर Action Taken Report (ATR) जमा करने को कहा था. पहले यह रिपोर्ट 5 जनवरी तक मांगी गई थी, जिसे बाद में बढ़ाकर 7 जनवरी कर दिया गया.
वहीं, पहला नोटिस जारी होने के बाद अपने जवाब में X ने भ्रामक पोस्ट और गैर-सहमति से बनाए गए इमेज से जुड़े पोस्ट के मामले में अपने द्वारा अपनाई जाने वाली सख्त सामग्री हटाने की नीतियों की रूपरेखा प्रस्तुत की थी. हालांकि, जवाब लंबा और विस्तृत था लेकिन इसमें कुछ महत्वपूर्ण जानकारियां छूट गई थीं, जिनमें ग्रोक एआई की आपत्तिजनक कंटेंट के मुद्दे पर की गई कार्रवाई और भविष्य में इसे रोकने के उपाय शामिल थे.
प्रभात खबर डिजिटल प्रीमियम स्टोरी
MeitY ने जताई थी गंभीर चिंता
Ministry of Electronics and Information Technology (MeitY) ने 2 जनवरी को X को पत्र लिखकर AI-जनरेटेड कंटेंट की मॉडरेशन में गंभीर खामियों की ओर इशारा किया था. मंत्रालय ने कहा था कि Grok और xAI की अन्य सेवाओं का इस्तेमाल अश्लील, गैर-सहमति वाली और आपत्तिजनक कंटेंट बनाई और फैलाई जा रही है, जिससे खास तौर पर महिलाओं की गरिमा और निजता को ठेस पहुंच रही है. इसके बाद सरकार ने X से तत्काल अवैध कंटेंट हटाने, अब तक की गई कार्रवाइयों की डिटेल रिपोर्ट और भविष्य में ऐसे मामलों को रोकने के लिए ठोस कदमों की जानकारी मांगी थी. मंत्रालय ने इसे सोशल मीडिया मंच के स्तर पर सुरक्षा उपायों एवं निगरानी तंत्र की गंभीर विफलता बताते हुए कहा था कि यह आईटी कानून और उससे जुड़े नियमों का उल्लंघन है.
अश्लील कंटेंट पर सख्ती, X को तत्काल कार्रवाई के निर्देश
सरकार ने सोशल मीडिया प्लेटफॉर्म X को स्पष्ट शब्दों में निर्देश दिया था, कि वह AI टूल Grok से जुड़े सभी अश्लील, आपत्तिजनक और गैरकानूनी कंटेंट को बिना किसी देरी के हटाए. मंत्रालय ने चेतावनी दी थी कि तय समयसीमा में कार्रवाई न होने पर कानूनी कदम उठाए जाएंगे. इसके साथ ही X को 72 घंटे के भीतर की गई कार्रवाई की विस्तृत रिपोर्ट सौंपने के लिए कहा गया था. सरकार ने यह भी साफ किया था कि IT कानून की धारा 79 के तहत मिलने वाली कानूनी सुरक्षा (Safe Harbour) तभी मान्य होगी, जब प्लेटफॉर्म कंटेंट मॉडरेशन में पूरी सावधानी और जिम्मेदारी बरतेगा.
इसके बाद X ने अवैध कंटेंट पर मस्क के रुख को दोहराते हुए कहा था, कि ‘ग्रोक का उपयोग करके या उससे अवैध कंटेंट बनवाने वाले किसी भी व्यक्ति को वही परिणाम भुगतने होंगे, जो कि अवैध कंटेंट अपलोड करने पर भुगतने पड़ते हैं.’
यह भी पढ़ें: ChatGPT, Grok और Gemini जैसे AI टूल्स से भूल कर भी न पूछें ये 5 बातें, वरना खुद को डाल देंगे मुश्किल में