AI: तेजी से बदलती हुई तकनीकी इंसान के लिए जितना सुविधाजनक है उतना ही खतरनाक. हाल ही के वर्षों में आर्टिफिशियल इंटेलिजेंस का चलन तेजी के साथ बढ़ा है. इतनी तेजी के साथ कि महिलाओं की तस्वीरों को निर्वस्त्र करने वाले ऐप्स और वेबसाइट्स की ओर शोधकर्ताओं और लोगों की प्राइवेसी का ध्यान रखने वाली संस्थाओं का ध्यान आकर्षित किया. ग्राफिका नाम की सामाजिक संस्था ने अपनी रिपोर्ट में खुलासा किया है कि सितंबर महीने में 24 मिलियन यानी 2 करोड़ 40 लाख लोगों ने महिलाओं की फोटो को निर्वस्त्र करने वाला ऐप्स या वेबसाइट्स का इस्तेमाल किया है. ये रिपोर्ट ब्लूमबर्ग ने छापी है.
न्यूडीफाई ऐप्स और वेबसाइट्स सोशल मीडिया के जरिए मार्केटिंग करके खुद को प्रचारित करती हैं. इस साल के शुरुआत में एक्स और रेडिट जैसे सोशल मीडिया प्लेटफार्म्स में कपडे़ उतारने वाले लिंक्स के प्रचार को दिखाने में 2400 गुना का इजाफा हुआ था. सोशल मीडिया पर दिखाए जाने वाले ऐड्स में एआई का इस्तेमाल करके फोटो से कपड़ा हटाना दिखाया जाता है. अधिकतर इन ऐड्स में महिलाओं की तस्वीरें दिखाई जाती हैं. बिना सहमती और जानकारी के सोशल मीडिया से फोटो को उठाकर उन्हें गलत तरीके से प्रचारिरत करना एक गंभीर नैतिक और कानूनी चुनौती बन चुकी है.
इस तरह के प्रचार से उत्पीड़न के मामले बढ़ें हैं. दरअसल, बहुत से प्रचार में दिखाया जाता है कि कैसे कस्टमर किसी फोटो से वस्त्र हटाकर नग्न तस्वीर को किसी को भेज सकता है. इस तरह के एड्स को लेकर गूगल ने नई पॉलिसी लागू की है. जिसमें सेक्सुअल कंटेंट को हटाया जा रहा है. हालांकि, सोशल मीडिया प्लेटफार्म एक्स (पूर्व में ट्विटर) और रेडिट ने अभी तक इस मामले में कोई कदम नहीं उठाया है.
एआई का इस्तेमाल करके डीपफेक बनाने के बढ़ते मामलों को देख प्राइवेसी एक्सपर्ट्स चेतावनी जारी कर रहे हैं. साइबर सिक्योरिटी संस्था इलेक्ट्रॉनिक फ्रंटियर फाउंडेशन की डायरेक्टर इवा गालपेरिन ने प्रकाश डाला है कि आम लोग और यहां तक की हाई स्कूल और कॉलेज में पढने वाले छात्र अपने डेली टार्गेट के लिए एआई का इस्तेमाल कर रहे हैं. बहुत से पीड़ित इस बात से अनजान हैं कि उनकी फोटो को तोड़ मरोड़ कर उसे निर्वस्त्र कर प्रचारित किया जा रहा है.
एआई के गलत इस्तेमाल कर लोगों की फोटो को निर्वस्त्र करके प्रचारित करने को लेकर यूनाइटेड स्टेट में कोई कानून नहीं है जो इस तरह के डीपफेक जैसी चीजों को रोके. हाल ही में उत्तरी कैरोलिना में एक केस सामने आया था जिसमें एक बाल चिकित्सक अपने मरीजों की फोटो पर निर्वस्त्र करने वाले ऐप्स का इस्तेमाल करता था उसे 40 साल की सजा सुनाई गई थी.
निर्वस्त्र करने वाली ऐप्स और वेबसाइट की बढ़ती लोकप्रियता हम सभी के लिए चिंताजनक है. इसी को देखते हुए टिकटॉक और मेटा जैसे प्लेटफॉर्म ने निर्वस्त्र करने वाले ऐप्स के लिए इस्तेमाल किए जाने वाले की वर्ड्स को ब्लॉक करना शुरू कर दिया है. टिकटॉक ने अपने यूजर्स को चेतावनी देते हुए कहा है कि अनड्रेस शब्द उसकी गाइडलाइन का उल्लंघन करने से जुड़ा हो सकता है.
