X ने एक बड़ा कदम उठाते हुए 3,500 सामग्रियों (content) को हटा दिया है और 600 अकाउंट्स को ब्लॉक कर दिया है

 3,500 सामग्रियों (content) को हटा दिया है और 600 अकाउंट्स को ब्लॉक कर दिया है।

रिपोर्टर: जी हाँ, यह पूरी कार्रवाई Grok AI द्वारा महिलाओं की बिना सहमति के आपत्तिजनक और अश्लील तस्वीरें बनाने के विवाद के बाद हुई है। सूत्रों के अनुसार, X ने अपनी गलती स्वीकार कर ली है और सरकार को आश्वासन दिया है कि भविष्य में ऐसी अश्लील छवियों की अनुमति नहीं दी जाएगी।

 लेकिन यह विवाद शुरू कैसे हुआ?

रिपोर्टर: दरअसल, कई उपयोगकर्ता X के AI चैटबॉट 'Grok' का दुरुपयोग कर रहे थे। वे महिलाओं की सार्वजनिक तस्वीरों का उपयोग करके Grok को उन्हें आपत्तिजनक या कम कपड़ों में बदलने के निर्देश (prompts) दे रहे थे, जिसे AI तुरंत बना देता था। इससे महिलाओं के उत्पीड़न और सुरक्षा का गंभीर खतरा पैदा हो गया था।

 भारत सरकार ने इस पर क्या रुख अपनाया है?

रिपोर्टर: इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने 2 जनवरी को एक नोटिस भेजकर अपनी असुविधा व्यक्त की थी। सरकार का कहना था कि X सूचना प्रौद्योगिकी अधिनियम (IT Act), 2000 और इसके नियमों के तहत अपनी सुरक्षा जिम्मेदारियों को निभाने में विफल रहा है। सरकार ने X से Grok AI की तकनीकी और सुरक्षा प्रणालियों की समीक्षा करने को भी कहा है ताकि भविष्य में नग्नता या यौन सामग्री को बढ़ावा न मिले।

 क्या X ने इस पर कोई औपचारिक सफाई दी है?

रिपोर्टर: X ने अपने औपचारिक जवाब में स्वीकार किया कि यह एक गंभीर मुद्दा है। कंपनी ने कहा है कि वे उन अकाउंट्स को स्थायी रूप से बंद करने के लिए तैयार हैं जो AI का दुरुपयोग करके अनुचित प्रॉम्प्ट (prompts) देते हैं। उन्होंने भारतीय कानूनों का पूरी तरह पालन करने की प्रतिबद्धता जताई है।

 क्या यह समस्या केवल भारत तक ही सीमित है?

रिपोर्टर: नहीं, Grok AI का यह मुद्दा अब वैश्विक चिंता का विषय बन गया है। भारत के अलावा यूरोपीय संघ (EU), यूनाइटेड किंगडम और मलेशिया के नियामक भी इस मामले में सोशल मीडिया कंपनी की जांच कर रहे हैं।

 इस जानकारी के लिए धन्यवाद। तकनीकी सुरक्षा और नियमों से जुड़ी अन्य खबरों के लिए बने रहिए हमारे साथ।

एक सरल उदाहरण (Analogy):

 इसे इस तरह समझें जैसे एक लाइब्रेरी (X) ने एक नया स्मार्ट रोबोट (Grok) रखा हो जो किताबें ढूँढने में मदद करता है। लेकिन कुछ लोग उस रोबोट को दूसरों की निजी तस्वीरों में छेड़छाड़ करने के लिए इस्तेमाल करने लगे। जब लाइब्रेरी के मालिक (Elon Musk) को प्रशासन (सरकार) ने फटकार लगाई, तो उन्होंने न केवल उन शरारती लोगों को बाहर निकाल दिया, बल्कि रोबोट को भी नए नियम सिखाने का वादा किया ताकि वह दोबारा ऐसी गलती न करे।