ग्रोक के ‘स्पाइसी मोड’ फीचर ने कई देशों में नाराजगी पैदा की थी। इस मोड के जरिए यूजर्स आसानी से किसी भी व्यक्ति की अश्लील डीपफेक तस्वीरें बना सकते थे जैसे कपड़े हटाना या बिकिनी में दिखाना। इस पर कई देशों ने प्लेटफॉर्म को ब्लॉक कर दिया या इसकी जांच शुरू कर दी। भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने भी एक्सएआई से इस मामले में रिपोर्ट मांगी थी। वहीं अमेरिका के कैलिफोर्निया अटॉर्नी जनरल ने डेवलपर के खिलाफ जांच शुरू की।28 सामाजिक संगठनों ने एप्पल और गूगल को पत्र लिखकर मांग की थी कि ग्रोक और एक्स ऐप को उनके ऐप स्टोर से हटाया जाए। बढ़ती अश्लील तस्वीरों की वजह से यह कदम जरूरी समझा गया।
अब एक्स ने तस्वीर बनाने और एडिट करने की सुविधा केवल पेड सब्सक्राइबर्स तक सीमित कर दी है। पहले यह सुविधा प्रीमियम यूजर्स के लिए थी लेकिन अब इसे और भी सख्त बनाया गया है। प्लेटफॉर्म ने बताया कि यह कदम एक अतिरिक्त सुरक्षा परत के रूप में काम करेगा और नियम तोड़ने वाले यूजर्स के खिलाफ कड़ी कार्रवाई संभव होगी।एक्स ने यह भी स्पष्ट किया कि बाल यौन शोषण सामग्री CSAM और बिना अनुमति की नग्न तस्वीरों जैसे गंभीर नियम उल्लंघन वाले कंटेंट को तुरंत हटाया जाएगा। ऐसे नियम तोड़ने वाले अकाउंट्स को निलंबित या बंद किया जाएगा।
दिसंबर में मंत्रालय ने एक्स को निर्देश दिया था कि कानून के खिलाफ पहले से मौजूद आपत्तिजनक कंटेंट को हटाया जाए या उसकी पहुंच बंद की जाए। भारत में एक्स ने ग्रोक की मदद से बनाई गई लगभग 3500 अश्लील तस्वीरें हटाईं और करीब 600 यूजर्स को प्रतिबंधित किया।इस कदम को प्लेटफॉर्म की सुरक्षा नीतियों और कानूनी जिम्मेदारी के हिस्से के रूप में देखा जा रहा है। एक्स ने कहा कि अब ग्रोक का इस्तेमाल केवल सुरक्षित और जिम्मेदार तरीके से ही संभव होगा जिससे किसी की निजता और सम्मान का उल्लंघन न हो।
About the Author
