टोक्यो आपत्तिजनक AI छवियों पर Grok के खिलाफ वैश्विक कार्रवाई में शामिल

शुक्रवार को, जापान ने घोषणा की कि वह मस्क की AI सेवा, Grok द्वारा उत्पन्न अनुचित छवियों के कारण X की जांच कर रहा है। सरकार अनुचित छवियों के निर्माण को रोकने के लिए सभी उपायों की खोज करने की योजना बना रही है।

आर्थिक सुरक्षा मंत्री किमी ओनोडा ने कहा कि जापान के कैबिनेट कार्यालय ने X से तत्काल सुधार करने के लिए कहा, लेकिन कंपनी ने अभी तक जवाब नहीं दिया है।

टोक्यो ने Grok के नियंत्रण के बारे में जवाब के लिए X पर दबाव डाला

टोक्यो के अधिकारियों ने X को डीपफेक और गोपनीयता, बौद्धिक संपदा और समानता अधिकारों का उल्लंघन करने वाली छवियों को रोकने के कदमों के बारे में लिखित प्रश्न भेजे।

ओनोडा, जो AI रणनीति के लिए राज्य मंत्री भी हैं, ने शुक्रवार की एक समाचार वार्ता में कहा कि यदि कोई सुधार नहीं होता है तो कानूनी कार्रवाई सहित सभी विकल्पों पर विचार किया जा रहा है। उन्होंने कहा कि अगर अन्य सोशल मीडिया प्लेटफॉर्म पर भी ऐसी समस्याएं उत्पन्न होती हैं तो वे जवाब देंगे।

मंत्री ने कहा कि यह चिंताजनक है कि लोग अभी भी ऐसी छवियां उत्पन्न कर सकते हैं। हालांकि, उन्होंने कहा कि AI स्वयं दोषी नहीं है। उनका मानना है कि जापानी सरकार को वास्तविक समस्या के विभिन्न समाधानों की खोज करनी चाहिए।

ओनोडा ने ब्रिटेन और कनाडा द्वारा Grok में अपनी जांच को आगे बढ़ाने की घोषणा के बाद बात की।

जापान इस महत्वपूर्ण क्षेत्र में अमेरिका और चीन का मुकाबला करने का लक्ष्य रखते हुए AI को विनियमित करने की कोशिश कर रहा है। इसका AI कानून, जो सितंबर से प्रभावी है, में कोई दंड नहीं है और उल्लंघन के लिए सरकारी कार्रवाई को जांच और आधिकारिक मार्गदर्शन तक सीमित रखता है।

दुनिया भर के अधिकारी Grok के खिलाफ कार्रवाई कर रहे हैं

दुनिया भर के अधिकारियों ने AI चैटबॉट को प्रतिबंधित करने की कोशिश की है जब उपयोगकर्ताओं ने पाया कि यह महिलाओं और नाबालिगों की यौन छवियां उत्पन्न कर सकता है।

इस महीने, Grok को मलेशिया से लेकर इटली तक के देशों में उपयोगकर्ताओं और सरकारों से भारी आलोचना का सामना करना पड़ा कि कैसे इसका उपयोग यौन या अपमानजनक तरीके से फोटो बदलने के लिए आसानी से किया जा सकता है

फिलीपींस और इंडोनेशिया ने स्पष्ट छवियों के निर्माण के कारण Grok तक पहुंच को अस्थायी रूप से प्रतिबंधित कर दिया है।

कनाडा, कैलिफोर्निया, EU, और फ्रांस जैसे EU सदस्य जांच कर रहे हैं कि क्या Grok की छवियां स्थानीय कानूनों का उल्लंघन करती हैं।

बुधवार देर रात, xAI ने Grok उपयोगकर्ताओं को बिकिनी जैसे खुलासा करने वाले कपड़े पहने असली लोगों की छवियों को बदलने से रोकने के लिए बदलावों की घोषणा की।

xAI ने कहा कि यह स्थान के आधार पर उपयोगकर्ताओं को खुलासा करने वाले कपड़ों में लोगों की छवियां बनाने से प्रतिबंधित करता है जहां यह अवैध है, लेकिन किन क्षेत्रों को निर्दिष्ट नहीं किया।

तब से, इसने अपनी छवि-निर्माण सुविधाओं को सीमित कर दिया है और उन्हें पेवॉल के पीछे रख दिया है।

बुधवार को, एलन मस्क ने कहा कि उन्हें Grok द्वारा बनाई गई नाबालिगों की किसी भी नग्न छवि के बारे में नहीं पता था। 

उन्होंने कहा कि वे "Grok द्वारा उत्पन्न किसी भी नग्न नाबालिग छवि के बारे में जागरूक नहीं हैं। सचमुच शून्य। जाहिर है, Grok स्वतः छवियां उत्पन्न नहीं करता है, यह केवल उपयोगकर्ता अनुरोधों के अनुसार ऐसा करता है।"

Copyleaks के अनुसार, X पर हर मिनट लगभग एक छवि अपलोड की जाती है। जेनेवीव ओह, एक स्वतंत्र इंटरनेट शोधकर्ता, ने 24 घंटों के लिए X पर @Grok की पोस्ट की समीक्षा की। चैटबॉट द्वारा उत्पन्न लगभग 6,700 छवियां प्रति घंटे यौन रूप से सुझावपूर्ण या नग्न बनाने वाली के रूप में चिह्नित की गईं।

जहां यह मायने रखता है वहां दिखें। Cryptopolitan Research में विज्ञापन दें और क्रिप्टो के सबसे तेज निवेशकों और निर्माताओं तक पहुंचें।