जर्मनी ने गलत AI होलोकॉस्ट छवियों के प्रसार पर सोशल मीडिया प्लेटफॉर्म को चेतावनी दी है। सरकार और होलोकॉस्ट स्मारक संस्थानों ने सोशल मीडिया प्लेटफॉर्म से नकली छवियों के प्रसार को रोकने के लिए कहा है, जो उनके अनुसार इतिहास को विकृत और तुच्छ बना रहे हैं।
एकाग्रता शिविर स्मारक स्थलों और दस्तावेज़ीकरण केंद्रों ने हाल ही में एक पत्र में चिंता व्यक्त की, द्वितीय विश्व युद्ध के दौरान जर्मनी में 60 लाख से अधिक यहूदियों की नाज़ियों द्वारा की गई हत्याओं के आसपास तथाकथित AI स्लॉप या जाली छवियों में वृद्धि की आलोचना की। इन छवियों में काल्पनिक घटनाओं के भावनात्मक चित्रण शामिल हैं, जैसे एकाग्रता शिविर के कैदियों और उनके मुक्तिदाताओं की मुलाकातें या कांटेदार तारों की बाड़ के पीछे बच्चे।
जर्मनी गलत AI होलोकॉस्ट छवियों के प्रसार को रोकना चाहता है
संगठनों द्वारा भेजे गए पत्र में, उन्होंने नोट किया कि AI-जनित सामग्री लंबे समय पहले हुई गंभीर घटनाओं को तुच्छ बनाकर इतिहास को विकृत करती है। उन्होंने उल्लेख किया कि ऐसी छवियां प्रामाणिक ऐतिहासिक दस्तावेजों के उपयोगकर्ताओं के बीच अविश्वास को बढ़ावा दे सकती हैं। वोल्फ्राम वाइमर, जर्मनी के संस्कृति और मीडिया के राज्य मंत्री, ने उल्लेख किया कि उन्होंने इस मामले में स्मारक संस्थानों द्वारा उठाए गए कदमों और प्रयासों का समर्थन किया, यह खुलासा करते हुए कि यह सही कदम है।
वोल्फ्राम ने यह भी उल्लेख किया कि उन्होंने प्राचीन घटनाओं की AI-जनित छवियों को चिह्नित करने और आवश्यकता पड़ने पर सोशल मीडिया प्लेटफॉर्म से हटाने के उनके निर्णय का समर्थन किया। उन्होंने उल्लेख किया कि यह लाखों लोगों के लिए सम्मान का मामला है जो नाज़ी जर्मनी के आतंक शासन के तहत मारे गए और सताए गए। स्मारक संस्थानों के पत्र के अनुसार, उन्होंने नोट किया कि छवियों के निर्माताओं ने इसका उपयोग ऑनलाइन ध्यान आकर्षित करने और पैसे कमाने के लिए किया।
संगठनों ने यह भी उल्लेख किया कि अपराधियों का आंशिक रूप से तथ्यों को कमजोर करने, पीड़ित और अपराधी की भूमिकाओं को बदलने और संशोधनवादी कथाओं को फैलाने का इरादा था। संस्थानों में बेल्सन, बुचेनवाल्ड, डैचाऊ और अन्य एकाग्रता शिविरों के स्मारक केंद्र शामिल हैं जहां यहूदियों के साथ-साथ रोमा और सिंटी लोगों सहित अन्य लोगों को मार दिया गया था। उन्होंने सोशल मीडिया प्लेटफॉर्म से होलोकॉस्ट के आसपास नकली AI छवियों के खिलाफ सक्रिय रूप से कार्रवाई करने के लिए कहा, बजाय उपयोगकर्ताओं द्वारा इसकी रिपोर्ट करने की प्रतीक्षा करने के।
होलोकॉस्ट संगठन AI-जनित छवियों को लेबल करना चाहते हैं
इसके अलावा, उन्होंने प्लेटफॉर्म से उन्हें स्पष्ट रूप से लेबल करने के लिए कहा, क्योंकि उनका मानना है कि इससे छवियां बनाने वाले उपयोगकर्ताओं को उनसे पैसे कमाने से रोका जा सकेगा। निम्न-गुणवत्ता वाले AI स्लॉप के प्रसार ने, जिसमें नकली पाठ, छवियां या वीडियो शामिल हैं, कई विशेषज्ञों के बीच चिंता बढ़ाई है। उनका मानना है कि यह सूचना परिदृश्य को प्रदूषित करेगा और उपयोगकर्ताओं के लिए सत्य को असत्य से अलग करना कठिन बना देगा। यह घटना उस घटना के बाद आती है जिससे AI फर्में, विशेष रूप से एलन मस्क की xAI, जो चैटबॉट Grok की मालिक है, वर्तमान में जूझ रही हैं।
कंपनी पिछले कुछ हफ्तों से कुछ उपयोगकर्ताओं द्वारा महिलाओं और नाबालिगों की हजारों यौन डीपफेक छवियां बनाने और उन्हें कई सोशल मीडिया प्लेटफॉर्म पर फैलाने के कारण दबाव में है। इस खतरे ने कई देशों के नेताओं को कंपनी को आदेश देने के लिए मजबूर किया है, जबकि अन्य उन्हें घटनाओं से निपटने के लिए उपयुक्त सुरक्षा उपाय विकसित करने के लिए कह रहे हैं। इंडोनेशिया जैसे देशों ने भी चैटबॉट पर अस्थायी प्रतिबंध की घोषणा की है जब तक सब कुछ हल नहीं हो जाता।
इस बीच, प्लेटफॉर्म ने पुष्टि की है कि वह उन स्थानों में Grok और X उपयोगकर्ताओं की लोगों के डीपफेक बनाने की क्षमता को जियोब्लॉक करेगा जहां ये कार्रवाई अवैध मानी जाती है। हालांकि, यह देखा जाना बाकी है कि नए सुरक्षा उपाय इसके स्टैंडअलोन एप्लिकेशन या इसकी वेबसाइट पर लागू होंगे या नहीं। यह भी देखा जाना बाकी है कि क्या उपाय उपयोगकर्ताओं को इस तरह की छवियां बनाने से रोकेंगे या उन्हें सेवा तक पहुंचने के नए तरीके खोजने के लिए प्रेरित करेंगे।
बस क्रिप्टो समाचार न पढ़ें। इसे समझें। हमारे न्यूज़लेटर को सब्सक्राइब करें। यह मुफ़्त है।
स्रोत: https://www.cryptopolitan.com/germany-warns-spread-ai-holocaust-images/
