भारत ने X से Grok द्वारा उत्पन्न अश्लील सामग्री को संबोधित करने के लिए कहा

भारत सरकार ने एलन मस्क के स्वामित्व वाले ब्लॉगिंग प्लेटफॉर्म X को अश्लील AI सामग्री के लिए अपने Grok आर्टिफिशियल इंटेलिजेंस चैटबॉट में बदलाव करने का आदेश दिया है। देश चाहता है कि प्लेटफॉर्म चैटबॉट में तत्काल तकनीकी और प्रक्रियात्मक बदलाव करे, जब उपयोगकर्ताओं और सांसदों ने अश्लील सामग्री के कई मामलों को चिह्नित किया।

देश के अनुसार, चैटबॉट का उपयोग इन अश्लील छवियों को बनाने के लिए किया जा रहा है, जिसमें इस टूल का उपयोग करके बनाई गई महिलाओं की AI-परिवर्तित छवियां शामिल हैं। यह आदेश शुक्रवार को भारत के IT मंत्रालय द्वारा जारी किया गया था, जिसमें प्लेटफॉर्म से Grok के संबंध में सुधारात्मक कार्रवाई करने को कहा गया, जिसमें "नग्नता, यौनीकरण, यौन स्पष्ट, या अन्यथा गैरकानूनी" सामग्री की पीढ़ी को प्रतिबंधित करना शामिल है। मंत्रालय ने प्लेटफॉर्म को परिवर्तन लागू करने के लिए 72 घंटे का अल्टीमेटम भी दिया है।

भारत सरकार ने X को Grok में तकनीकी बदलाव करने का आदेश दिया

72 घंटे के अल्टीमेटम में अपनी डिलिवरेबल्स के हिस्से के रूप में, मंत्रालय ने X से एक कार्रवाई रिपोर्ट प्रस्तुत करने के लिए भी कहा है, जिसमें अश्लील सामग्री की होस्टिंग या प्रसार को रोकने के लिए उठाए गए कदमों का विवरण हो। इन सामग्रियों में "अश्लील, पोर्नोग्राफिक, अश्लील, अभद्र, यौन स्पष्ट, बाल यौन शोषण, या कानून के तहत अन्यथा निषिद्ध" शामिल हैं। आदेश ने चेतावनी दी कि यदि प्लेटफॉर्म अनिवार्य कदम उठाने में विफल रहता है, तो यह इसकी "सेफ हार्बर" सुरक्षा को खतरे में डाल सकता है।

भारत का आदेश उपयोगकर्ताओं द्वारा उठाई गई चिंताओं के बीच आया है, जिन्होंने Grok को व्यक्तियों, मुख्य रूप से महिलाओं की छवियों को बदलने के लिए प्रेरित किए जाने के उदाहरण साझा किए, ताकि वे बिकिनी पहने हुए दिखाई दें। यह मुद्दा एक औपचारिक शिकायत के कारण उठा, जो भारतीय सांसद प्रियंका चतुर्वेदी द्वारा प्रस्तुत की गई थी। चतुर्वेदी ने AI चैटबॉट्स वाली सभी बड़ी फर्मों को सावधान किया, यह कहते हुए कि Grok जैसी सुविधाओं की जांच के लिए गार्डरेल लगाए जाने चाहिए ताकि चैटबॉट मानवीय गरिमा का उल्लंघन न करे।

अलग से, उपयोगकर्ताओं ने कई घटनाओं को भी चिह्नित किया है जहां AI चैटबॉट का उपयोग नाबालिगों से जुड़ी यौन छवियां उत्पन्न करने के लिए किया गया, एक मुद्दा जिसे X ने शुक्रवार को स्वीकार किया। प्लेटफॉर्म ने दावा किया कि यह सुरक्षा उपायों में कुछ कमियों के कारण हुआ, इससे पहले कि उत्पन्न छवियों को हटाने के लिए तेजी से कदम उठाए गए। प्लेटफॉर्म ने उपयोगकर्ताओं से औपचारिक रूप से फेडरल ब्यूरो ऑफ इन्वेस्टिगेशन (FBI) या NCMEC के साइबरटिपलाइन को रिपोर्ट करने का आग्रह किया, यह कहते हुए कि X ऐसे मुद्दों को रोकने के लिए प्रतिबद्ध है।

X को गैर-अनुपालन के लिए कानूनी मुद्दों का सामना करना पड़ सकता है

उपयोगकर्ताओं के अनुसार, चैटबॉट का उपयोग करके बनाई गई महिलाओं की अभद्र छवियां प्लेटफॉर्म पर बनी रहीं। नवीनतम आदेश भारतीय IT मंत्रालय द्वारा सोशल मीडिया प्लेटफॉर्म को जारी एक सलाह के बाद आया है, जो उन्हें याद दिलाता है कि अश्लील और यौन स्पष्ट सामग्री को नियंत्रित करने वाले स्थानीय कानूनों का अनुपालन उपयोगकर्ता-जनित सामग्री के लिए दायित्व से कानूनी प्रतिरक्षा बनाए रखने के लिए एक पूर्व शर्त है। देश ने कंपनियों से गार्डरेल में सुधार करने का आग्रह किया और चेतावनी दी कि विफलता कानूनी कार्रवाई को आमंत्रित कर सकती है।

"यह दोहराया जाता है कि उपरोक्त आवश्यकताओं का गैर-अनुपालन गंभीरता से देखा जाएगा और बिना किसी और सूचना के आपके प्लेटफॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफॉर्म पर उन उपयोगकर्ताओं के खिलाफ सख्त कानूनी परिणाम हो सकते हैं जो कानून का उल्लंघन करते हैं," आदेश ने चेतावनी दी। भारत सरकार ने X को यह भी चेतावनी दी है कि यदि यह अपने निर्देश का पालन करने में विफल रहता है, तो देश के पास भारत के IT कानून और आपराधिक क़ानूनों के तहत प्लेटफॉर्म के खिलाफ कानूनी कार्रवाई शुरू करने की शक्ति है।

भारत सबसे बड़े डिजिटल बाजारों में से एक के रूप में उभरा है, जिसे AI-जनित सामग्री के लिए प्लेटफॉर्म को जिम्मेदार ठहराने के लिए सरकारें कितनी दूर तक जाने को तैयार हैं, इसके लिए एक महत्वपूर्ण परीक्षण मामले के रूप में देखा जा रहा है। यदि देश में प्रवर्तन कड़ा किया जाता है, तो यह अन्य क्षेत्राधिकारों में काम करने वाली वैश्विक प्रौद्योगिकी कंपनियों के लिए एक लहर प्रभाव हो सकता है। यह आदेश तब आया है जब X अदालत में भारत के सामग्री विनियमन नियमों को चुनौती देना जारी रखता है।

प्लेटफॉर्म का तर्क है कि संघीय सरकार की टेकडाउन शक्तियां अतिक्रमण का जोखिम उठाती हैं, भले ही प्लेटफॉर्म ने देश द्वारा प्रस्तुत अधिकांश ब्लॉकिंग निर्देशों का पालन किया हो। साथ ही, Grok X पर उपयोगकर्ताओं के लिए सहायक रहा है, अधिकांश उपयोगकर्ता वैश्विक घटनाओं पर वास्तविक समय में तथ्य-जांच और टिप्पणी के लिए प्लेटफॉर्म का उपयोग कर रहे हैं, जिससे इसका आउटपुट स्टैंड-अलोन AI टूल्स की तुलना में अधिक दृश्यमान और अधिक राजनीतिक रूप से संवेदनशील हो गया है।

केवल क्रिप्टो समाचार न पढ़ें। इसे समझें। हमारे न्यूज़लेटर की सदस्यता लें। यह मुफ्त है।