कुआलालंपुर, मलेशिया – मलेशिया ने रविवार, 11 जनवरी को Grok तक पहुंच अस्थायी रूप से अवरुद्ध कर दी, उन देशों की बढ़ती सूची में शामिल हो गया जो जेनरेटिव आर्टिफिशियल इंटेलिजेंस चैटबॉट द्वारा उपयोगकर्ताओं को यौन छवियां बनाने और प्रकाशित करने की अनुमति देने के बाद वैश्विक प्रतिक्रिया भड़काने के बाद कार्रवाई कर रहे हैं।

xAI, Grok के पीछे Elon Musk के नेतृत्व वाली फर्म ने गुरुवार को कहा कि वह छवि निर्माण और संपादन को भुगतान करने वाले ग्राहकों तक सीमित करेगी क्योंकि इसने उन खामियों को संबोधित किया जिसने X पर उपयोगकर्ताओं को दूसरों की यौन सामग्री बनाने की अनुमति दी, अक्सर सहमति के बिना।

शनिवार को, इंडोनेशिया बॉट तक पहुंच अस्थायी रूप से अस्वीकार करने वाला पहला देश बन गया।

रविवार को एक बयान में, मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने कहा कि वह टूल के बार-बार दुरुपयोग के बाद Grok तक पहुंच प्रतिबंधित करेगी "अश्लील, यौन स्पष्ट, अशोभनीय, घोर आपत्तिजनक, और गैर-सहमति से हेरफेर की गई छवियां उत्पन्न करने के लिए, जिसमें महिलाओं और नाबालिगों से जुड़ी सामग्री शामिल है।"

MCMC ने कहा कि उसने इस महीने X और xAI को प्रभावी तकनीकी और मॉडरेशन सुरक्षा उपायों के कार्यान्वयन की मांग करने के लिए नोटिस जारी किए, लेकिन प्राप्त प्रतिक्रियाएं मुख्य रूप से उपयोगकर्ता-आरंभित रिपोर्टिंग तंत्र पर निर्भर थीं और AI टूल के डिजाइन और संचालन द्वारा उत्पन्न जोखिमों को संबोधित करने में विफल रहीं।

"MCMC इसे नुकसान को रोकने या कानूनी अनुपालन सुनिश्चित करने के लिए अपर्याप्त मानता है," इसने कहा।

xAI ने टिप्पणी मांगने वाले रॉयटर्स ईमेल का जवाब दिया जो एक स्वचालित प्रतिक्रिया प्रतीत होती थी: "Legacy Media Lies।" X ने टिप्पणी के अनुरोध पर तुरंत जवाब नहीं दिया।

MCMC ने कहा कि Grok तक पहुंच तब तक प्रतिबंधित रहेगी जब तक प्रभावी सुरक्षा उपाय लागू नहीं किए जाते, यह जोड़ते हुए कि वह फर्मों के साथ जुड़ने के लिए खुला है।

मुस्लिम-बहुल मलेशिया में ऑनलाइन सामग्री को नियंत्रित करने वाले सख्त कानून हैं, जिसमें अश्लील और अश्लील सामग्री पर प्रतिबंध शामिल है। हाल के वर्षों में इसने इंटरनेट कंपनियों को अधिक जांच के दायरे में रखा है जिसे यह कहता है हानिकारक सामग्री में वृद्धि के जवाब में। मलेशिया 16 वर्ष से कम उम्र के उपयोगकर्ताओं को सोशल मीडिया तक पहुंचने से रोकने पर विचार कर रहा है। – Rappler.com