आर्टिफिशियल इंटेलिजेंस अब केवल तकनीकी विकास का विषय नहीं रह गया है, बल्कि इसके दुरुपयोग ने महिलाओं की डिजिटल सुरक्षा को गंभीर संकट में डाल दिया है। सोशल मीडिया प्लेटफॉर्म एक्स पर ग्रोक एआई से जुड़े अश्लील कंटेंट विवाद ने साफ कर दिया है कि यह समस्या किसी एक देश तक सीमित नहीं है।
अंतरराष्ट्रीय स्तर पर इसे मानवाधिकार उल्लंघन के रूप में देखा जा रहा है, वहीं भारत में भी इस पर चिंता लगातार बढ़ रही है। राष्ट्रीय महिला आयोग पहले ही एआई को लेकर सख्त कानूनों की मांग कर चुका है, जबकि भारत सरकार ने एक्स को नोटिस जारी कर त्वरित और कड़े कदम उठाने के निर्देश दिए हैं।
भारत के बाहर भी बढ़ता डिजिटल उत्पीड़न
महिलाओं के खिलाफ एआई के दुरुपयोग का खतरा केवल भारत तक सीमित नहीं है। संयुक्त राष्ट्र जनसंख्या कोष (यूएनएफपीए) ने अपनी रिपोर्ट में महिलाओं और लैंगिक अल्पसंख्यकों पर बढ़ते ऑनलाइन हमलों पर गहरी चिंता जताई है। रिपोर्ट के अनुसार, एआई तकनीक के गलत इस्तेमाल से साइबर स्टॉकिंग, फर्जी पहचान बनाना, बिना सहमति तस्वीरें और वीडियो साझा करना तथा डीपफेक जैसे अपराध तेजी से बढ़ रहे हैं। विशेषज्ञों का मानना है कि यह अब महज ऑनलाइन उत्पीड़न नहीं, बल्कि गंभीर मानवाधिकार संकट का रूप ले चुका है।
राष्ट्रीय महिला आयोग की कड़ी चेतावनी
भारत में महिलाओं की डिजिटल सुरक्षा को लेकर राष्ट्रीय महिला आयोग ने सख्त रुख अपनाया है। आयोग का कहना है कि डीपफेक और एआई से तैयार किया गया फर्जी कंटेंट मौजूदा साइबर कानूनों की सीमाओं को उजागर कर रहा है। इससे न केवल सोशल मीडिया पर महिलाओं की गरिमा और सुरक्षा प्रभावित हो रही है, बल्कि न्यायिक प्रक्रिया भी जटिल और धीमी हो रही है। एनसीडब्ल्यू अध्यक्ष विजया किशोर राहतकर ने मांग की है कि एआई-जनित फर्जी कंटेंट को स्पष्ट रूप से अपराध की श्रेणी में रखा जाए और सोशल मीडिया कंपनियों की जिम्मेदारी तय की जाए।
एक्स और ग्रोक एआई पर सरकार का एक्शन
राज्यसभा सांसद प्रियंका चतुर्वेदी द्वारा इस मुद्दे को उठाए जाने के बाद आईटी मंत्रालय ने एक्स को औपचारिक नोटिस जारी किया। सरकार का कहना है कि ग्रोक एआई टूल का इस्तेमाल महिलाओं के खिलाफ अश्लील और आपत्तिजनक कंटेंट बनाने में हो रहा है, जो आईटी एक्ट 2000 और आईटी नियम 2021 का सीधा उल्लंघन है। मंत्रालय ने एक्स को 72 घंटे के भीतर सुधारात्मक कदम उठाने, आपत्तिजनक सामग्री हटाने और नियम तोड़ने वाले अकाउंट्स को सस्पेंड या बंद करने के निर्देश दिए हैं।
डीपफेक मामलों से बढ़ती चिंता
हाल के दिनों में अभिनेत्री गिरीजा ओक और सोशल मीडिया इंफ्लुएंसर कामिया बुच से जुड़े मामलों ने डीपफेक के खतरे को और गंभीर बना दिया है। McAfee की रिपोर्ट बताती है कि भारत में 75 प्रतिशत लोग किसी न किसी रूप में डीपफेक कंटेंट देख चुके हैं, जबकि 38 प्रतिशत लोग इसका शिकार बन चुके हैं। सरकारी आंकड़ों के अनुसार, 2020 से 2024 के बीच महिलाओं के खिलाफ साइबर अपराधों में 118 प्रतिशत की वृद्धि हुई है। विशेषज्ञों का मानना है कि निचली अदालतों और साइबर सेल को अधिक मजबूत बनाकर ही इस बढ़ते खतरे पर प्रभावी नियंत्रण पाया जा सकता है।