Grok AI का Spicy फीचर विवादों में: Elon Musk की AI से Taylor Swift Deepfake का मामला क्या है?
टेक दुनिया में एक बार फिर Elon Musk विवादों में हैं। उनकी AI कंपनी xAI द्वारा विकसित AI टूल Grok के एक पेड फीचर ने गंभीर बहस छेड़ दी है। रिपोर्ट्स के अनुसार, यह फीचर उपयोगकर्ताओं को ऐसी सामग्री जनरेट करने की अनुमति देता है जो यौन रूप से स्पष्ट (sexually explicit) और आपत्तिजनक हो सकती है।
यह मामला केवल टेक्नोलॉजी का नहीं, बल्कि डिजिटल सुरक्षा, सहमति (consent) और साइबर कानून से जुड़ा बड़ा मुद्दा बन चुका है।
क्या है Grok का “Imagine” और “Spicy” फीचर?
Grok का एक पेड वर्ज़न है जिसका नाम Imagine है। इसकी कीमत लगभग £30 प्रति माह बताई गई है। इस फीचर के जरिए उपयोगकर्ता किसी भी फोटो को अपलोड करके उसे छोटे वीडियो क्लिप में बदल सकते हैं।
वीडियो बनाने के लिए चार सेटिंग दी गई हैं:
Normal
Fun
Custom
Spicy
रिपोर्ट के अनुसार, यदि कोई उपयोगकर्ता “Spicy” विकल्प चुनता है, तो अपलोड की गई तस्वीर से आपत्तिजनक और यौन रूप से स्पष्ट कंटेंट तैयार किया जा सकता है।
बताया गया है कि इस फीचर के जरिए अब तक 34 मिलियन से अधिक इमेज जनरेट की जा चुकी हैं और कंपनी के अनुसार इसका उपयोग “तेजी से बढ़ रहा है।”
Taylor Swift की बिना अनुमति बनाई गई आपत्तिजनक इमेज
टेक पत्रकार Jess Weatherbed ने अपनी रिपोर्ट में दावा किया कि उन्होंने जब अपने iPhone पर $30 की SuperGrok सदस्यता लेकर इस फीचर को टेस्ट किया, तो बॉट ने बिना स्पष्ट निर्देश दिए ही Taylor Swift की टॉपलेस (बिना कपड़ों वाली) वीडियो इमेज जनरेट कर दी।
उन्होंने कहा कि उन्होंने बॉट से कपड़े हटाने के लिए विशेष रूप से नहीं कहा था, फिर भी सिस्टम ने ऐसा कंटेंट तैयार कर दिया।
यह मुद्दा इसलिए और गंभीर हो जाता है क्योंकि अन्य AI वीडियो टूल जैसे:
Google का Veo
OpenAI का Sora
इनमें NSFW कंटेंट और सेलिब्रिटी डीपफेक रोकने के लिए सुरक्षा उपाय (safeguards) मौजूद हैं।
लेकिन रिपोर्ट के अनुसार, Grok Imagine इन दोनों चीज़ों को एक साथ अनुमति देता दिखाई देता है।
आयु सत्यापन (Age Verification) की कमी
यूके में जुलाई से नया कानून लागू हुआ है जिसके अनुसार ऐसी वेबसाइट्स और प्लेटफॉर्म, जो स्पष्ट सामग्री दिखाते हैं, उन्हें उपयोगकर्ता की आयु सत्यापित करनी होगी।
रिपोर्ट में कहा गया कि Grok में अभी तक उचित और मजबूत आयु सत्यापन प्रणाली लागू नहीं की गई है।
दिलचस्प बात यह है कि xAI की अपनी “acceptable use policy” में यह लिखा है कि किसी व्यक्ति की समानता (likeness) को पोर्नोग्राफिक तरीके से दिखाना प्रतिबंधित है। इसके बावजूद यह फीचर सवालों के घेरे में है।
AI आधारित यौन शोषण: बढ़ती हुई वैश्विक समस्या
AI से बनी नकली (deepfake) अश्लील तस्वीरें और वीडियो आज ऑनलाइन यौन शोषण का बड़ा माध्यम बनते जा रहे हैं।
Durham University की कानून प्रोफेसर Clare McGlynn का मानना है कि यह “गलती से नहीं बल्कि डिज़ाइन से की गई लैंगिक भेदभाव (misogyny)” है।
यह पहली बार नहीं है जब Taylor Swift की डीपफेक तस्वीरें वायरल हुई हों। जनवरी 2024 में भी उनकी आपत्तिजनक AI-जनरेटेड तस्वीरें सोशल मीडिया प्लेटफॉर्म्स X और Telegram पर लाखों बार देखी गई थीं।
उस समय X ने कहा था कि वह उन तस्वीरों को हटाने और संबंधित अकाउंट्स पर कार्रवाई करने में सक्रिय है।
ऑनलाइन यौन शोषण रोकने के कानून
1️⃣ यूके का कानून
यूके में जुलाई से लागू नियमों के अनुसार:
स्पष्ट सामग्री दिखाने वाले प्लेटफॉर्म को आयु सत्यापन करना अनिवार्य है।
रिवेंज पोर्न या बच्चों से जुड़ी डीपफेक सामग्री बनाना अवैध है।
सरकार एक संशोधन लाने पर भी विचार कर रही है जिससे बिना सहमति के बनाई गई सभी पोर्नोग्राफिक डीपफेक को पूरी तरह गैरकानूनी घोषित किया जा सके।
2️⃣ अमेरिका का “Take It Down Act”
Rainn (The Rape, Abuse & Incest National Network) ने मई में “Take It Down Act” पारित कराने में मदद की।
इस कानून के अनुसार:
बिना सहमति के निजी या अंतरंग तस्वीरें साझा करना अपराध है।
ऑनलाइन प्लेटफॉर्म को 48 घंटे के भीतर सत्यापित अनुरोध मिलने पर हानिकारक कंटेंट हटाना होगा।
फिर भी आलोचकों का कहना है कि Grok इस कानून से अप्रभावित नजर आता है।
Baroness Owen का बयान
Baroness Owen, जिन्होंने यूके के संशोधन का प्रस्ताव रखा था, का मानना है:
“हर महिला को यह अधिकार होना चाहिए कि उसकी निजी तस्वीरों पर उसका स्वामित्व हो।”
उन्होंने BBC से कहा कि चाहे वह सेलिब्रिटी हों या आम महिला — किसी की सहमति का उल्लंघन नहीं होना चाहिए।
मानसिक और सामाजिक प्रभाव
बिना सहमति के ऐसी तस्वीरों का प्रसार:
मानसिक यातना देता है
सामाजिक अपमान का कारण बनता है
डिजिटल हमले (digital assault) जैसा प्रभाव छोड़ता है
यह केवल टेक्नोलॉजी की गलती नहीं, बल्कि कॉरपोरेट जिम्मेदारी और कानूनी सख्ती दोनों की आवश्यकता को दर्शाता है।
क्या आगे का रास्ता?
मजबूत कानून बनाना जरूरी है, लेकिन उतना ही जरूरी है कि टेक कंपनियां:
सख्त कंटेंट मॉडरेशन लागू करें
आयु सत्यापन को मजबूत बनाएं
डीपफेक रोकने के लिए AI सुरक्षा फिल्टर विकसित करें
यदि ऐसा नहीं किया गया, तो AI का दुरुपयोग समाज के लिए और भी खतरनाक साबित हो सकता है।
निष्कर्ष
Grok का “Spicy” फीचर AI तकनीक के उस पक्ष को उजागर करता है जहाँ नवाचार और नैतिकता के बीच संतुलन बिगड़ता नजर आता है।
सवाल यह है कि क्या टेक कंपनियां समाजिक जिम्मेदारी निभाएंगी, या केवल उपयोगकर्ता संख्या और मुनाफे पर ध्यान देंगी?
AI का भविष्य उज्ज्वल हो सकता है, लेकिन तभी जब वह सहमति, कानून और नैतिक मूल्यों का सम्मान करे।
❓ FAQ – Grok AI Spicy Feature Controversy
1️⃣ Grok AI का “Spicy” फीचर क्या है?
Grok AI का “Spicy” फीचर उसके पेड वर्ज़न Imagine में उपलब्ध एक सेटिंग है, जिससे अपलोड की गई तस्वीरों को आपत्तिजनक या यौन रूप से स्पष्ट वीडियो में बदला जा सकता है।
2️⃣ Grok Imagine की कीमत कितनी है?
Grok का Imagine फीचर लगभग £30 प्रति माह (करीब $30) की सदस्यता के साथ उपलब्ध बताया गया है।
3️⃣ Taylor Swift Deepfake विवाद क्या है?
रिपोर्ट के अनुसार, AI टूल ने बिना स्पष्ट निर्देश के Taylor Swift की टॉपलेस डीपफेक वीडियो तैयार कर दी। इससे डिजिटल सहमति (consent) और AI दुरुपयोग पर गंभीर सवाल उठे।
4️⃣ क्या Grok में सेफ्टी फ़िल्टर नहीं हैं?
आलोचकों का कहना है कि अन्य AI टूल्स जैसे Google Veo और OpenAI Sora में NSFW और सेलिब्रिटी डीपफेक रोकने के लिए सुरक्षा उपाय मौजूद हैं, जबकि Grok का Spicy फीचर इन्हें पर्याप्त रूप से लागू नहीं करता।
5️⃣ क्या Deepfake बनाना गैरकानूनी है?
यह देश के कानून पर निर्भर करता है।
-
UK में बिना सहमति के पोर्नोग्राफिक डीपफेक पर सख्त नियम लागू हैं।
-
अमेरिका में “Take It Down Act” गैर-सहमति वाली अंतरंग तस्वीरें शेयर करना अपराध मानता है।
6️⃣ Take It Down Act क्या है?
यह अमेरिकी कानून है जो बिना सहमति के अंतरंग तस्वीरें (AI Deepfake सहित) साझा करने को अपराध घोषित करता है और प्लेटफॉर्म को 48 घंटे के भीतर कंटेंट हटाने का आदेश देता है।
7️⃣ AI Deepfake से क्या खतरे हैं?
-
मानसिक उत्पीड़न
-
सामाजिक बदनामी
-
डिजिटल ब्लैकमेल
-
महिलाओं की निजता का उल्लंघन
8️⃣ क्या AI कंपनियों की जिम्मेदारी बनती है?
हाँ। AI कंपनियों को कंटेंट मॉडरेशन, आयु सत्यापन और सेफ्टी फिल्टर मजबूत करने चाहिए ताकि तकनीक का दुरुपयोग न हो।
