मनीला, फिलीपींस – फिलीपीन सरकार फिलीपींस में AI चैटबॉट Grok को ब्लॉक करने की कोशिश कर रही है क्योंकि यह लोगों की यौन रूप से स्पष्ट या अन्यथा उजागर करने वाली डीपफेक बनाने में सक्षम है।

गुरुवार, 15 जनवरी को एक प्रेस ब्रीफिंग में, सूचना और संचार प्रौद्योगिकी विभाग के सचिव हेनरी अगुडा ने कहा कि "[DICT का साइबर क्राइम इन्वेस्टिगेशन एंड कोऑर्डिनेटिंग सेंटर] अब [नेशनल टेलीकम्युनिकेशंस कमीशन] के साथ मिलकर इसे ब्लॉक करने का काम कर रहा है," Grok को बच्चों के ऑनलाइन यौन शोषण और दुर्व्यवहार या OSAEC के लिए एक माध्यम बताते हुए।

अगुडा ने कहा कि देश में Grok की उपस्थिति ChatGPT या Claude जैसे अन्य चैटबॉट्स की तुलना में छोटी थी, लेकिन Grok को ब्लॉक करने की प्रक्रिया में अभी भी इंटरनेट सेवा प्रदाताओं के साथ समन्वय की आवश्यकता होगी, क्योंकि यह एक बटन दबाने से स्वचालित रूप से नहीं किया जा सकता।

वीडियो चलाएं

Grok जांच के दायरे में

एलन मस्क के सोशल मीडिया प्लेटफॉर्म X, इसकी कृत्रिम बुद्धिमत्ता शाखा xAI, और इसका AI चैटबॉट Grok सरकारों, तकनीकी निगरानी संस्थाओं और हित समूहों की जांच के दायरे में हैं जो Grok की उन प्रतिक्रियाओं के लिए जवाबदेही चाहते हैं जो लोगों की छवियों पर कपड़े हटाने या अधिक उजागर करने वाले कपड़े बनाने के अनुरोधों के लिए दी जाती हैं।

संयुक्त राज्य अमेरिका में, तीन डेमोक्रेटिक सीनेटरों ने Apple और Google से अपने-अपने ऐप स्टोर से X और Grok को हटाने का आह्वान किया है, जबकि मलेशिया और इंडोनेशिया ने पहले ही स्पष्ट सामग्री के कारण Grok पर प्रतिबंध लगा दिया है। यूरोप और यूनाइटेड किंगडम के अधिकारियों ने भी Grok की जांच की घोषणा की है।

मस्क को Grok द्वारा बनाई गई 'किसी भी नग्न नाबालिग छवि की जानकारी नहीं'

मस्क ने बुधवार, 14 जनवरी को X पर एक पोस्ट में कहा कि वह "Grok द्वारा उत्पन्न किसी भी नग्न नाबालिग छवि से अवगत नहीं हैं। सचमुच शून्य।"

"स्पष्ट रूप से, Grok स्वतः छवियां उत्पन्न नहीं करता, यह केवल उपयोगकर्ता के अनुरोधों के अनुसार करता है। जब छवियां उत्पन्न करने के लिए कहा जाता है, तो यह कुछ भी अवैध उत्पादित करने से इनकार कर देगा, क्योंकि Grok का संचालन सिद्धांत किसी भी देश या राज्य के कानूनों का पालन करना है।"

मस्क ने अपने बयान में कहा कि "Grok प्रॉम्प्ट्स की प्रतिकूल हैकिंग" के उदाहरण हो सकते हैं, जो उन्होंने कहा कि "कुछ अप्रत्याशित" कर सकते हैं।

"अगर ऐसा होता है, तो हम तुरंत बग को ठीक कर देते हैं," उन्होंने कहा।

– Rappler.com