मलेशिया और इंडोनेशिया ने यौन स्पष्ट AI दुरुपयोग के कारण Grok पर प्रतिबंध लगाया

मलेशिया और इंडोनेशिया ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म X से जुड़े आर्टिफिशियल इंटेलिजेंस चैटबॉट Grok तक पहुंच प्रतिबंधित कर दी है। यह निर्णय इस चिंता के जवाब में आया है कि AI टूल का उपयोग वास्तविक व्यक्तियों की यौन रूप से स्पष्ट नकली छवियां बनाने के लिए किया जा रहा है।

Grok उपयोगकर्ताओं को छवियां बनाने और संशोधित करने में सक्षम बनाता है। हालांकि, दोनों देशों के अधिकारियों ने चिंता व्यक्त की है कि इसका तेजी से उपयोग बिना सहमति के तस्वीरों को उजागर करने वाली या यौन सामग्री में बदलने के लिए किया जा रहा है। नियामकों ने महिलाओं और बच्चों के लिए जोखिमों को उजागर किया है, यह कहते हुए कि इस टूल का आसानी से पोर्नोग्राफिक डीपफेक बनाने के लिए दुरुपयोग किया जा सकता है।

मलेशिया और इंडोनेशिया अब दुनिया के पहले देश हैं जिन्होंने Grok को पूरी तरह से ब्लॉक कर दिया है, AI टूल्स के खिलाफ मजबूत रुख अपनाते हुए जो अधिकारियों का मानना है कि सुरक्षा नियमों से तेजी से आगे बढ़ रहे हैं।

Grok कानूनी और सामाजिक सीमाओं को पार करता है

नियामक एक चैटबॉट से परे व्यापक मुद्दों के बारे में चिंतित हैं, क्योंकि AI-जनित यौन छवियों का उदय ऑनलाइन सुरक्षा कानूनों में खामियों को उजागर करता है और उपयोगकर्ताओं के लिए जोखिम पैदा करता है। मलेशिया में, संचार नियामक ने नोट किया कि उसने पहले X को अपने AI के दुरुपयोग के बारे में चेतावनी दी थी, लेकिन महसूस किया कि कंपनी की प्रतिक्रिया ने मूल समस्या को संबोधित करने के बजाय उपयोगकर्ता रिपोर्टिंग को प्राथमिकता दी।

इंडोनेशिया के डिजिटल मामलों के मंत्रालय ने गरिमा और मानवाधिकारों की आवश्यकता पर जोर दिया, यह कहते हुए कि गैर-सहमति वाली यौन सामग्री बनाने वाले AI टूल्स सार्वजनिक विश्वास को नुकसान पहुंचाते हैं और कमजोर समूहों को खतरे में डालते हैं। सरकार ने X से Grok को कैसे नियंत्रित और मॉडरेट किया जा रहा है, इसकी व्याख्या करने का अनुरोध किया है।

यह प्रतिबंध ऑनलाइन सामग्री पर इंडोनेशिया के लंबे समय से चले आ रहे रुख को भी दर्शाता है। देश ने पहले Pornhub और OnlyFans जैसे प्लेटफॉर्म को ब्लॉक किया है, और अधिकारी AI-जनित यौन छवियों को उसी मुद्दे के विस्तार के रूप में देखते हैं, जो अब नई तकनीक के माध्यम से वितरित की जा रही है।

यह भी पढ़ें: Grok के डीपफेक पोर्नोग्राफी संकट और आगे की कानूनी गणना के अंदर

Grok विवाद दक्षिण पूर्व एशिया से परे ध्यान आकर्षित कर रहा है। यूनाइटेड किंगडम में, नियामक वर्तमान में मूल्यांकन कर रहे हैं कि क्या X ऑनलाइन सुरक्षा नियमों का पालन कर रहा है। इसके अतिरिक्त, राजनीतिक नेताओं ने स्पष्ट नकली छवियां बनाने के लिए तकनीक के उपयोग की सार्वजनिक रूप से आलोचना की है।

उपयोगकर्ताओं के लिए, प्रभाव व्यक्तिगत है। कुछ व्यक्ति जिनकी छवियों को Grok का उपयोग करके बदला गया था, रिपोर्ट करते हैं कि सामग्री की रिपोर्ट करने से इसे फैलने से रोकने में बहुत कम मदद मिली। कुछ मामलों में, दूसरों को पोस्ट की रिपोर्ट करने के लिए प्रोत्साहित करने से केवल अधिक लोगों ने नकली छवियां देखीं, जिससे नुकसान और बढ़ गया।

बढ़ती प्रतिक्रिया X को Grok के संचालन पर पुनर्विचार करने के लिए प्रेरित कर रही है, विशेष रूप से जैसे-जैसे सरकारें AI टूल्स को प्रयोगात्मक सुविधाओं के बजाय विनियमित उत्पादों के रूप में देखना शुरू कर रही हैं।

यह पोस्ट मलेशिया और इंडोनेशिया यौन रूप से स्पष्ट AI दुरुपयोग पर Grok को प्रतिबंधित करते हैं पहली बार Technext पर प्रकाशित हुई।