कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने एलन मस्क की xAI को एक सीज-एंड-डिसिस्ट लेटर भेजा, जिसमें मांग की गई कि कंपनी अपने Grok चैटबॉट द्वारा बनाई गई आपत्तिजनक डीपफेक छवियों का उत्पादन और प्रसार तुरंत बंद करे।
कैलिफोर्निया AG ने शुक्रवार को सीज-एंड-डिसिस्ट लेटर जारी किया, जो इस आरोप के जवाब में था कि Grok का उपयोग बच्चों से जुड़ी अवैध सामग्री और गैर-सहमति वाली वयस्क तस्वीरें बनाने के लिए किया जा रहा था, जिसने कैलिफोर्निया राज्य की जांच शुरू की। बोंटा ने तर्क दिया कि CSAM को बनाना, वितरित करना, प्रकाशित करना और प्रदर्शित करना अवैध है।
कैलिफोर्निया AG ने Grok के कथित दुरुपयोग पर xAI को निशाना बनाया
इस सप्ताह की शुरुआत में, कैलिफोर्निया अटॉर्नी जनरल के कार्यालय ने घोषणा की कि वह xAI की जांच कर रहा है क्योंकि आरोप हैं कि स्टार्टअप के चैटबॉट, Grok, का उपयोग महिलाओं और बच्चों की गैर-सहमति वाली, अनुचित तस्वीरें बनाने के लिए किया जा रहा था। जवाब में, सरकार ने कॉर्पोरेशन को एक सीज-एंड-डिसिस्ट लेटर भेजा।
AG के कार्यालय ने आगे दावा किया कि xAI गैर-सहमति वाली, अनुचित तस्वीरों के "बड़े पैमाने पर उत्पादन की सुविधा" प्रदान कर रहा है, जिन्हें फिर "इंटरनेट पर महिलाओं और लड़कियों को परेशान करने के लिए उपयोग किया जाता है।" AG के कार्यालय के अनुसार, एक शोध में पाया गया कि क्रिसमस और नए साल के बीच xAI द्वारा बनाई गई 20,000 तस्वीरों में से आधे से अधिक में बहुत कम कपड़े पहने लोग दिखाए गए थे, जिनमें से कुछ बच्चों जैसे लग रहे थे।
रॉब बोंटा ने घोषणा में दावा किया कि कॉर्पोरेट प्रथाओं ने कैलिफोर्निया के नागरिक कानूनों का उल्लंघन किया, जिसमें कैलिफोर्निया सिविल कोड धारा 1708.86, कैलिफोर्निया पेनल कोड धारा 311 और उसके बाद और 647(j)(4), और कैलिफोर्निया बिजनेस एंड प्रोफेशन्स कोड धारा 17200 शामिल हैं।
कैलिफोर्निया डिपार्टमेंट ऑफ जस्टिस को उम्मीद है कि xAI अगले पांच दिनों में इन मुद्दों को संबोधित करने के अपने प्रयासों की पुष्टि करेगा और उन्हें हल करने के लिए तत्काल कार्रवाई करेगा।
हालांकि, X के सुरक्षा खाते ने पहले इस प्रकार के उपयोगकर्ता व्यवहार की निंदा की थी। इसने 4 जनवरी को स्पष्ट किया कि यह X पर अवैध सामग्री, जैसे CSAM, के खिलाफ कार्रवाई करता है, इसे हटाकर, खातों को अनिश्चित काल के लिए निलंबित करके, और आवश्यकतानुसार कानून अधिकारियों और नगरपालिका सरकारों के साथ सहयोग करके।
विशेष रूप से, 4 जनवरी को, एलन मस्क ने चेतावनी दी कि कोई भी Grok का उपयोग या प्रॉम्प्ट करके अवैध सामग्री बनाने वाले को वही परिणाम भुगतने होंगे जैसे कि उन्होंने इसे अपलोड किया हो।
अटॉर्नी जनरल ने बाल सुरक्षा पर AI फर्मों पर दबाव बढ़ाया
मुफ्त जेनरेटिव AI टूल्स के विकास से गैर-सहमति वाली वयस्क सामग्री में एक चिंताजनक वृद्धि हुई है। यह समस्या केवल X ही नहीं, बल्कि कई प्लेटफॉर्म को परेशान कर रही है।
उदाहरण के लिए, अटॉर्नी जनरल बोंटा और डेलावेयर के अटॉर्नी जनरल जेनिंग्स ने पिछले साल सितंबर में OpenAI के साथ मुलाकात की ताकि युवाओं के साथ OpenAI के उत्पादों की बातचीत के बारे में बढ़ती रिपोर्टों के बारे में अपनी गंभीर चिंताओं को व्यक्त कर सकें।
उसी वर्ष अगस्त में, AG बोंटा ने 44 अन्य अटॉर्नी जनरल के साथ मिलकर AI चैटबॉट और बच्चों के बीच अनुचित बातचीत की रिपोर्ट के बाद 12 प्रमुख AI कंपनियों को एक पत्र भेजा। पत्र Anthropic, Apple, Chai AI, Google, Luka Inc., Meta, Microsoft, Nomi AI, OpenAI, Perplexity AI, Replika, और xAI को भेजे गए।
AG बोंटा और 44 अटॉर्नी जनरल ने पत्र में कंपनियों को सूचित किया कि देश भर के राज्य बारीकी से निगरानी कर रहे थे कि कंपनियां अपनी AI सुरक्षा नीतियों को कैसे विकसित करती हैं। उन्होंने यह भी जोर दिया कि इन व्यवसायों का उपभोक्ताओं के रूप में बच्चों के प्रति कानूनी कर्तव्य है क्योंकि वे बच्चों द्वारा अपने उत्पादों का उपयोग करने से लाभ कमाते हैं।
2023 में, AG बोंटा 54 राज्यों और क्षेत्रों के एक द्विदलीय गठबंधन में शामिल हुए, जिन्होंने कांग्रेस के नेताओं को एक पत्र भेजा, जिसमें CSAM के माध्यम से बच्चों का शोषण करने के लिए AI के संभावित उपयोग की जांच के लिए एक विशेषज्ञ समिति की स्थापना की वकालत की।
गठबंधन ने अनुरोध किया कि विशेषज्ञ आयोग बच्चों को ऐसे दुर्व्यवहार से बचाने के लिए कानून सुझाए। यू.एस. डिपार्टमेंट ऑफ जस्टिस के अनुसार, "CSAM का उत्पादन बच्चे की पीड़ा का स्थायी रिकॉर्ड बनाता है।"
यदि आप यह पढ़ रहे हैं, तो आप पहले से ही आगे हैं। हमारे न्यूज़लेटर के साथ वहीं बने रहें।
स्रोत: https://www.cryptopolitan.com/california-ag-cease-and-desist-to-xai/
