यूके ने बच्चों को ऑनलाइन सुरक्षित रखने के लिए AI चैटबॉट्स पर सख्ती की

यूके सरकार बच्चों को हानिकारक और अवैध सामग्री से बेहतर तरीके से सुरक्षित रखने के लिए आर्टिफिशियल इंटेलिजेंस चैटबॉट्स के उपयोग पर नियमों को सख्त बना रही है। 

प्रधानमंत्री कीर स्टार्मर ने एक प्रक्रिया का अनावरण किया है जो एक कानूनी खामी को भरने के लिए है जिसने चैटबॉट प्रदाताओं को प्रमुख ऑनलाइन सुरक्षा कानूनों के बाहर संचालित करने की अनुमति दी थी। यह उन कंपनियों को मजबूर करेगा जो AI चैटबॉट्स बनाती और चलाती हैं कि वे अवैध सामग्री पर सक्रिय रूप से रोक लगाएं और सुनिश्चित करें कि उनके प्लेटफॉर्म छोटे उपयोगकर्ताओं के लिए सुरक्षित हों। 

अब, सरकार का दावा है कि वह ऑनलाइन सेफ्टी एक्ट को कैसे लागू किया जाता है उसे बदलेगी और निर्दिष्ट करेगी कि चैटबॉट्स को कानून का पालन कैसे करना चाहिए। यह नियमन प्रक्रिया में बहुत पहले डिजाइन किया गया था, लेकिन मुख्य रूप से सोशल मीडिया प्लेटफॉर्म और सार्वजनिक मंचों की मांगों के अनुकूल बनाया गया था जहां लोग अपनी सामग्री पोस्ट कर सकते थे। न तो निजी AI चैटबॉट्स चलाने वाले और न ही उनका उपयोग करने वालों को समान कवरेज मिला, और उनकी जिम्मेदारियां अस्पष्ट बनी हुई हैं। स्टार्मर ने इस खामी को जल्द बंद करने का वादा किया।

चैटबॉट कंपनियों को अन्य ऑनलाइन कंपनियों के समान कानूनी दायित्वों का पालन करने की आवश्यकता है, उन्होंने चेतावनी दी, या दंडित किया जाएगा। सरकार का कहना है कि इस बदलाव को सुनिश्चित करना चाहिए कि चैटबॉट प्रदाता सक्रिय रूप से अपने सिस्टम की निगरानी करें और अवैध सामग्री को ब्लॉक करें। अपनी घोषणा से पहले, स्टार्मर ने कहा कि कोई भी टेक्नोलॉजी कंपनी कानून से मुक्त नहीं होगी।

सरकार को यह भी डर है कि AI चैटबॉट्स को सोशल मीडिया प्लेटफॉर्म से अलग तरीके से व्यवहार करने से बच्चे हानिकारक या अनुचित सामग्री के प्रति संवेदनशील हो सकते हैं। अधिकारियों का मानना है कि यदि AI चैटबॉट्स को अपने वांछित दर्शकों तक पहुंचना है, विशेष रूप से किशोर और युवा उपयोगकर्ताओं तक, तो सख्त सुरक्षा आवश्यक है।

तेजी से बदलती तकनीक से निपटने के लिए नई शक्तियां

कानूनी खामियों को भरने के अलावा, सरकार नई शक्तियां बनाएगी जो जोखिम उभरने पर तेज कार्रवाई को सक्षम करेगी। संसद द्वारा पूरी तरह से नए कानून पारित करने की प्रतीक्षा करने के बजाय, नियामक तकनीक के प्रति अधिक तेजी से प्रतिक्रिया देंगे। 

यह सुनिश्चित करने का एक तरीका है कि सुरक्षा आर्टिफिशियल इंटेलिजेंस में तेज प्रगति के साथ तालमेल बनाए रखे। AI टूल्स तेजी से सुधर रहे हैं और नए क्षेत्रों में जा रहे हैं। परिणामस्वरूप, जोखिम अचानक प्रकट हो सकते हैं, और नियामकों को उनसे निपटने के लिए लचीलेपन की आवश्यकता होती है। 

स्टार्मर ने हाल ही में हानिकारक AI-जनित सामग्री के जोखिमों की ओर इशारा किया, जैसे कि ऐसे मामले जहां तकनीक का उपयोग लोगों की सहमति के बिना उनकी यौन छवियां बनाने के लिए किया जा रहा है। 

उन्होंने ऐसे उपयोगों को अस्वीकार्य बताया और कहा कि मौजूदा कानूनों को उनके खिलाफ लागू किया जाना चाहिए। सरकार ने कहा कि बेहतर प्रवर्तन कंपनियों को शुरुआत से ही सुरक्षित सिस्टम डिजाइन करने के लिए मजबूर करेगा। 

इनमें चैटबॉट सॉफ्टवेयर में निर्मित सुरक्षा शामिल हो सकती है जो उपयोगकर्ताओं द्वारा देखने से पहले अवैध सामग्री की पहचान करने और रोकने के लिए है। टेक्नोलॉजी कंपनियों को भी अपने AI सिस्टम के व्यवहार के लिए जिम्मेदारी उठानी होगी। 

इसका मतलब है कि उन्हें आउटपुट की निगरानी करने, सिस्टम को सुरक्षित बनाने के लिए सुरक्षा सुविधाओं को बढ़ाने, और जब खामियां पता चलें तो जल्दी से प्रतिक्रिया देने की आवश्यकता है।

सरकार बच्चों को नुकसान से बचाने के लिए कदम उठा रही है

AI चैटबॉट्स पर कार्रवाई वस्तुतः किसी भी डिजिटल प्लेटफॉर्म पर बाल सुरक्षा की बड़ी चुनौती का हिस्सा है। सरकार नई कार्रवाइयों पर विचार कर रही है जो जोखिम को और कम कर सकती हैं। 

कार्यों में एक सुझाव यह है कि सोशल मीडिया तक पहुंचने के लिए उपयोगकर्ताओं की एक निश्चित आयु होनी चाहिए। अधिकारी यह भी तलाश कर रहे हैं कि अनंत स्क्रॉलिंग जैसी सुविधाओं को सीमित करना कैसे अत्यधिक स्क्रीन समय को प्रोत्साहित कर सकता है, साथ ही युवा लोगों के लिए हानिकारक या व्यसनी सामग्री से अलग होना मुश्किल बना सकता है। 

ये परिवर्तन बच्चों की ऑनलाइन भलाई पर सार्वजनिक परामर्श के बाद आ सकते हैं। माता-पिता, शिक्षक और सुरक्षा विशेषज्ञ डिजिटल प्लेटफॉर्म के युवा लोगों के मानसिक स्वास्थ्य पर प्रभाव और अनुचित सामग्री के संपर्क की मात्रा के बारे में चिंतित हैं। 

सरकार का व्यापक उद्देश्य एक सुरक्षित ऑनलाइन वातावरण बनाना है जहां बच्चे गंभीर नुकसान के संपर्क में आए बिना तकनीक से लाभ उठा सकें।