यूके के सांसद चाहते हैं कि वित्तीय नियामक जोखिमों की शीघ्र पहचान के लिए आर्टिफिशियल इंटेलिजेंस पर तनाव परीक्षण करें।

यूके के सांसदों का एक क्रॉस-पार्टी समूह नियामकों पर वित्तीय क्षेत्र के लिए AI-केंद्रित स्ट्रेस टेस्ट अपनाने के लिए दबाव डाल रहा है, चेतावनी देते हुए कि कृत्रिम बुद्धिमत्ता के बढ़ते उपयोग से उपभोक्ताओं और बाजारों को गंभीर व्यवधान का सामना करना पड़ सकता है यदि इसे अप्रबंधित छोड़ दिया जाए।

मंगलवार को प्रकाशित एक रिपोर्ट में, ट्रेजरी सेलेक्ट कमेटी ने फाइनेंशियल कंडक्ट अथॉरिटी (FCA) और बैंक ऑफ इंग्लैंड की आलोचना की, जिसे सांसदों ने कृत्रिम बुद्धिमत्ता के प्रति एक सतर्क "प्रतीक्षा और देखें" नियामक रुख के रूप में वर्णित किया, सिटी ऑफ लंदन में इसके व्यापक अपनाने के बावजूद।

अधिकारियों ने कहा है कि तेजी से विकसित हो रही तकनीक निगरानी निकायों से त्वरित प्रतिक्रिया की मांग करती है, जैसे कि स्ट्रेस टेस्ट की शुरूआत। जैसे-जैसे वित्तीय कंपनियां कृत्रिम बुद्धिमत्ता पर अधिक निर्भर होती जा रही हैं, देरी से स्थिरता को नुकसान हो सकता है। जब मशीनें व्यापार, ऋण अनुमोदन, या जोखिम पूर्वानुमान को संभालती हैं, तो बिना चेतावनी के कई प्लेटफार्मों पर खामियां फैल सकती हैं। यदि कई सिस्टम एक साथ विफल हो जाते हैं, तो कोई भी प्रतिक्रिया करने से पहले उथल-पुथल शुरू हो सकती है।

सांसदों का कहना है कि AI वित्तीय बाजारों को अस्थिर कर सकती है।

निगरानी में खामियों को लेकर चेतावनियां सामने आ रही हैं क्योंकि कृत्रिम बुद्धिमत्ता ब्रिटेन के वित्त क्षेत्र में तेजी से आगे बढ़ रही है। कुछ अधिकारियों का सुझाव है कि इस पर पर्याप्त ध्यान नहीं दिया जा रहा है कि क्या हो सकता है यदि सिस्टम निगरानी से बहुत आगे बढ़ जाते हैं। संसद की ट्रेजरी सेलेक्ट कमेटी ने जोखिम प्रबंधन में बैंक ऑफ इंग्लैंड, फाइनेंशियल कंडक्ट अथॉरिटी और ट्रेजरी द्वारा देरी की ओर इशारा किया है। उन्नत उपकरणों का उपयोग करने वाली निजी कंपनियों द्वारा निर्धारित गति वर्तमान नियम-निर्माण प्रयासों से आगे निकल गई है।

बहुत लंबा इंतजार करने का मतलब यह हो सकता है कि कोई भी प्रतिक्रिया करने से पहले ही मुसीबत आ जाए। समिति ने बताया कि अधिकारी पीछे हट रहे हैं, यह उम्मीद करते हुए कि समस्याएं उत्पन्न नहीं होंगी। जब सिस्टम विफल हो जाते हैं, तो चीजों को पर्याप्त तेजी से ठीक करने के लिए लगभग कोई जगह नहीं होती है। बाद में कदम उठाने के बजाय, कठिन क्षणों के दौरान कृत्रिम बुद्धिमत्ता कैसे कार्य करती है, यह देखना अधिक समझदारी है। अधिकारियों का मानना है कि जब सब कुछ पहले से ही बिखर रहा हो तो तैयारी भाग-दौड़ से बेहतर है।

यूके के वित्त क्षेत्र की फर्में हर दिन कृत्रिम बुद्धिमत्ता पर अधिक निर्भर होती जा रही हैं, अक्सर बिना स्ट्रेस टेस्ट किए कि दबाव में सिस्टम कैसे काम करते हैं। 75% से अधिक ब्रिटिश वित्तीय संस्थान केंद्रीय कार्यों में AI का उपयोग करते हैं, इसलिए आर्थिक निर्णयों पर इसका प्रभाव, यदि कुछ भी है, तो अदृश्य है। निवेश के बारे में निर्णय मानवीय सहज ज्ञान के बजाय मशीन तर्क का उपयोग करके किए जाते हैं। स्वचालन अनुमोदनों का मार्गदर्शन करता है, जबकि एल्गोरिदम पारंपरिक समीक्षा के बिना उधार पात्रता का निर्णय करते हैं। बीमा में दावे क्लर्कों के मूल्यांकन पर नहीं बल्कि कोडित मूल्यांकन पर आगे बढ़ते हैं।

यहां तक कि बुनियादी कागजी कार्रवाई भी मैन्युअल रूप से नहीं बल्कि डिजिटल रूप से संभाली जाती है। गति इन प्रक्रियाओं को परिभाषित करती है; फिर भी तीव्रता जोखिम को बढ़ाती है जब खामियां उभरती हैं। एक भी गलत कदम व्यापक रूप से गूंज सकता है क्योंकि संगठनों के बीच संबंध तंग होते हैं।

बैंक ऑफ इंग्लैंड की फाइनेंशियल पॉलिसी कमेटी के एक बाहरी सदस्य जोनाथन हॉल ने सांसदों से कहा कि कृत्रिम बुद्धिमत्ता के लिए अनुकूलित स्ट्रेस टेस्ट निगरानी निकायों को उभरते जोखिमों का पहले पता लगाने में मदद कर सकते हैं। उन्होंने समझाया कि गंभीर बाजार व्यवधानों का अनुकरण करने वाले स्ट्रेस परिदृश्य, सिस्टमिक लचीलापन पर व्यापक प्रभावों से पहले AI ढांचे में कमजोरियों को उजागर कर सकते हैं।

सांसद नियामकों से AI जोखिमों का परीक्षण करने और स्पष्ट नियम निर्धारित करने का आग्रह करते हैं

सांसदों का आग्रह है कि स्ट्रेस मूल्यांकन से शुरू करते हुए, कृत्रिम बुद्धिमत्ता को चुपचाप आर्थिक स्थिरता को कमजोर करने से रोकने के लिए दृढ़ कदम उठाए जाएं, जो निगरानी निकायों के लिए तार्किक प्रतीत होता है। वित्तीय पर्यवेक्षक विधायकों से AI पर केंद्रित अनुकूलित मूल्यांकन अपनाने के लिए बढ़ते दबाव का सामना कर रहे हैं, जो मंदी के दौरान बैंकों के लिए उपयोग किए जाने वाले मूल्यांकन को प्रतिबिंबित करते हैं।

दबाव में, स्वचालित उपकरण अप्रत्याशित रूप से कार्य कर सकते हैं; निगरानी करने वालों को धारणाओं की नहीं, बल्कि सबूत की आवश्यकता है। केवल ऐसे परीक्षणों के माध्यम से अधिकारी यह देख सकते हैं कि एल्गोरिदम कैसे व्यवधान पैदा कर सकते हैं या बाजार बदलने पर उथल-पुथल को बढ़ा सकते हैं।

स्ट्रेस टेस्ट यह अनुकरण कर सकते हैं कि यदि कृत्रिम बुद्धिमत्ता अप्रत्याशित रूप से बाजारों को बाधित करती है तो क्या होता है। जब एल्गोरिदम अजीब व्यवहार करते हैं या काम करना बंद कर देते हैं, तो निगरानी निकाय दबाव में बैंक की प्रतिक्रियाओं का अवलोकन कर सकते हैं।

पहले से तैयारी करना कमजोरियों को प्रकट करता है, न केवल ट्रेडिंग प्लेटफार्मों में बल्कि संस्थानों के भीतर जोखिम मूल्यांकन और सुरक्षा उपायों में भी। अराजकता वित्तीय चैनलों के माध्यम से तेजी से फैलने के बाद प्रतिक्रिया करने की तुलना में जल्द ही मुद्दों को ठीक करना अधिक बुद्धिमानी प्रतीत होता है। पहले से मुसीबत की पहचान करना पर्यवेक्षकों और कंपनियों दोनों को अभी भी समय रहते पाठ्यक्रम समायोजित करने की अनुमति देगा।

स्ट्रेस टेस्टिंग के अलावा, संसद सदस्य वित्तीय संस्थानों के भीतर कृत्रिम बुद्धिमत्ता के नियमित उपयोग को नियंत्रित करने वाले स्पष्ट दिशानिर्देशों की आवश्यकता पर जोर देते हैं। फाइनेंशियल कंडक्ट अथॉरिटी से वास्तविक दुनिया की सेटिंग्स में नैतिक AI अनुप्रयोगों के लिए स्पष्ट सीमाएं निर्धारित करने का आग्रह किया जाता है।

मार्गदर्शन को यह स्पष्ट करना चाहिए कि जब स्वचालित सिस्टम मनुष्यों के बजाय निर्णय लेते हैं तो वर्तमान उपभोक्ता सुरक्षा कैसे लागू होती है, विफलताओं के दौरान जवाबदेही अंतराल को रोकते हुए। यदि AI गलत तरीके से कार्य करती है तो जिम्मेदारी असाइनमेंट स्पष्ट होनी चाहिए, जिससे कंपनियों के लिए दोष को मशीनों पर डालना असंभव हो जाए।

यदि केवल एक मुख्य टेक प्लेटफॉर्म के साथ कुछ गलत हो जाता है, तो बहुत सारे बैंक एक साथ लड़खड़ा सकते हैं। अब मुट्ठी भर कंपनियां देश भर में बैंकिंग सिस्टम को चालू रखने की बड़ी जिम्मेदारी रखती हैं।

जब Amazon Web Services या Google Cloud जैसे नामों द्वारा होस्ट की गई सेवाओं में परेशानी आती है, तो तरंग प्रभाव तेजी से हिट होते हैं। सांसद इस बात की ओर इशारा करते हैं कि जब इतने सारे लोग इतने कम पर निर्भर करते हैं तो चीजें कितनी नाजुक हो जाती हैं। निर्भरता जितनी बड़ी होती है, यदि कोई गड़बड़ी हो जाती है तो यह सभी को उतनी ही कठिन टक्कर देती है।

केवल क्रिप्टो समाचार न पढ़ें। इसे समझें। हमारे न्यूज़लेटर की सदस्यता लें। यह मुफ्त है।