मशीन में पल्स बनाए रखना: मानव-केंद्रित AI प्रकटीकरण का मामला

आर्टिफिशियल इंटेलिजेंस अब बैक ऑफिस तक सीमित नहीं है। जटिल प्रश्नों को संभालने वाले चैटबॉट्स से लेकर पोर्टफोलियो सारांश तैयार करने वाले रोबो-एडवाइजर्स तक, AI तेजी से वित्तीय जानकारी संप्रेषित करने के प्राथमिक चैनल के रूप में कार्य कर रहा है। जबकि यह बदलाव दक्षता और पैमाने प्रदान करता है, यह जोखिम की व्याख्या में "मानवीय स्पर्श" को कम करता है, एक मानव सलाहकार क्लाइंट की हिचकिचाहट को समझ सकता है और सूक्ष्म मार्गदर्शन प्रदान कर सकता है जो एक AI इंटरफेस, जो गति और स्पष्टता के लिए अनुकूलित है, अक्सर छोड़ देता है।

दक्षिण अफ्रीकी संदर्भ में, यह एक विरोधाभास पैदा करता है। AI-संचालित प्रकटीकरण वित्तीय जानकारी तक पहुंच को लोकतांत्रिक बनाने का वादा करते हैं, फिर भी वे अपारदर्शी जोखिम पेश करते हैं जो निष्पक्षता, उपभोक्ता संरक्षण और प्रणालीगत स्थिरता को खतरे में डालते हैं। जैसे-जैसे हम इन तकनीकों को एकीकृत करते हैं, नवाचार ग्राहक सुरक्षा की कीमत पर नहीं आना चाहिए।

नियामक आधार: POPIA, TCF और गवर्नेंस

दक्षिण अफ्रीका का नियामक ढांचा AI जोखिमों के प्रबंधन के लिए एक मजबूत आधार प्रदान करता है, भले ही इसे मशीन लर्निंग को ध्यान में रखकर डिज़ाइन नहीं किया गया था।

व्यक्तिगत सूचना संरक्षण अधिनियम (POPIA) सीधे लागू होता है। वित्तीय AI मॉडल विशाल डेटासेट, क्रेडिट इतिहास, जनसांख्यिकीय और व्यवहार संबंधी डेटा पर निर्भर करते हैं, और प्रसंस्करण वैध, पारदर्शी और संग्रह के मूल उद्देश्य के अनुरूप रहना चाहिए। महत्वपूर्ण रूप से, धारा 71 ग्राहकों को पूरी तरह से स्वचालित प्रक्रियाओं के माध्यम से लिए गए निर्णयों को चुनौती देने का अधिकार देती है जहां उन निर्णयों के कानूनी परिणाम होते हैं। जैसे-जैसे स्वचालित क्रेडिट स्कोरिंग और अंडरराइटिंग मानक बनते जा रहे हैं, संस्थानों को ग्राहकों के लिए मानव समीक्षा का अनुरोध करने के लिए एक स्पष्ट मार्ग सुनिश्चित करना चाहिए।

AI सामर्थ्य जांच के सुसंगत अनुप्रयोग को सुनिश्चित करके ग्राहकों के साथ निष्पक्ष व्यवहार (TCF) परिणामों को बढ़ा सकता है। हालांकि, यदि किसी मॉडल को ऐतिहासिक रूप से पक्षपाती डेटा पर प्रशिक्षित किया जाता है, तो यह भेदभावपूर्ण परिणाम उत्पन्न कर सकता है, TCF के निष्पक्ष उपचार सिद्धांत का उल्लंघन करता है। डीप लर्निंग की "ब्लैक बॉक्स" प्रकृति परिणाम 3 (स्पष्ट जानकारी) और परिणाम 4 (उपयुक्त सलाह) को और जटिल बनाती है, यदि संस्थान यह नहीं समझा सकते कि किसी परिणाम तक कैसे पहुंचा गया, तो सार्थक प्रकटीकरण मुश्किल हो जाता है।

कॉर्पोरेट गवर्नेंस पर किंग V (अक्टूबर 2025) इन दायित्वों को मजबूत करता है: सिद्धांत 10 स्पष्ट करता है कि बोर्डों को स्वचालित निर्णय लेने के नैतिक, कानूनी और रणनीतिक परिणामों से जुड़ना चाहिए। AI केवल एक IT मुद्दा नहीं है।

निष्पक्षता, पारदर्शिता और सुरक्षा

ऐतिहासिक दक्षिण अफ्रीकी डेटा पर प्रशिक्षित AI मॉडल गहरी सामाजिक-आर्थिक असमानताओं को पुन: उत्पन्न करने का जोखिम रखते हैं। यहां तक कि जहां नस्ल जैसी संरक्षित विशेषताओं को बाहर रखा गया है, प्रॉक्सी चर, डाक कोड, शिक्षा स्तर, रोजगार पैटर्न, कार्यात्मक रूप से समान भेदभावपूर्ण परिणाम दे सकते हैं, व्यक्तिगत योग्यता के बजाय प्रणालीगत कारकों के आधार पर क्रेडिट या बीमा तक पहुंच को प्रतिबंधित करते हैं।

पारदर्शिता को सार्थक रूप से अंशांकित किया जाना चाहिए। प्रकटीकरण एक साधारण अस्वीकरण से परे जाना चाहिए: उपभोक्ता AI उन्हें प्रभावित करने वाले परिणामों को कैसे प्रभावित करता है, इसकी स्पष्ट व्याख्या के साथ-साथ उनके निवारण के अधिकार की जानकारी के हकदार हैं। नियामकों के लिए, ध्यान गवर्नेंस और व्याख्यायोग्यता की ओर स्थानांतरित हो जाता है, सबूत है कि एक इकाई मॉडल के तर्क और मौजूद सुरक्षा उपायों को समझती है।

जेनेरेटिव AI "हैलुसिनेशन" का अतिरिक्त जोखिम पेश करता है, विश्वसनीय लेकिन तथ्यात्मक रूप से गलत आउटपुट। लीड रूपांतरण के लिए अनुकूलित एक AI सिस्टम जोखिम चेतावनियों को कम करके ग्राहकों को अनजाने में उच्च-जोखिम वाले उत्पादों की ओर धकेल सकता है। आउटपुट फिल्टर को AI को अनिवार्य जोखिम प्रकटीकरणों को छोटा करने से रोकना चाहिए।

वित्तीय प्रणाली को स्थिर रखना

व्यक्तिगत इंटरैक्शन से परे, AI व्यापक प्रणालीगत स्थिरता को प्रभावित करता है। यह नियामकों को धोखाधड़ी या दिवालियापन का पता लगाने के लिए तुरंत विशाल डेटासेट को स्कैन करने में मदद करता है, केवल मानव विश्लेषण की तुलना में तेज पूर्व-चेतावनी प्रणाली के रूप में कार्य करता है। यह जटिल वित्तीय शब्दजाल को सुलभ भाषा में अनुवाद भी कर सकता है, उपभोक्ता समझ में सुधार करके डिफ़ॉल्ट दरों को कम करता है।

हालांकि, बड़े भाषा मॉडल (LLMs) की एक छोटी संख्या पर अत्यधिक निर्भरता एकाग्रता जोखिम पैदा करती है: कई संस्थान बाजार संकेतों की समान रूप से व्याख्या कर सकते हैं और एक साथ प्रतिक्रिया दे सकते हैं, अस्थिरता को बढ़ाते हुए या फ्लैश क्रैश को ट्रिगर करते हुए। एक प्रमुख सार्वजनिक प्रकटीकरण में AI-जनित त्रुटि तुरंत फैल सकती है, मनुष्यों के रिकॉर्ड को सही करने से पहले स्वचालित व्यापार प्रतिक्रियाओं को ट्रिगर करती है। व्यापक रूप से उपयोग किए जाने वाले क्रेडिट मूल्यांकन मॉडल में एक एकल बग विभिन्न बैंकों में लाखों ग्राहकों को एक साथ प्रभावित कर सकता है।

दक्षिण अफ्रीकी वित्तीय संस्थानों के लिए विचार

जैसे-जैसे संस्थान AI प्रयोग से पूर्ण-पैमाने की तैनाती की ओर बढ़ते हैं, गवर्नेंस ढांचे को विकसित होना चाहिए। ह्यूमन-इन-द-लूप (HITL) प्रोटोकॉल में शामिल होना चाहिए:

• अनिवार्य समीक्षा: बाध्यकारी अनुबंधों या उच्च-प्रभाव निर्णयों से संबंधित स्वचालित प्रकटीकरण एक अनिवार्य मानव समीक्षा को ट्रिगर करना चाहिए।
• किल स्विच: जब हैलुसिनेशन का एक पैटर्न पता चलता है तो परिचालन टीमों को तुरंत AI उपकरणों को निलंबित करने के लिए सशक्त किया जाना चाहिए।
• निष्पक्षता ऑडिट: दक्षिण अफ्रीका की विविधता, भाषाओं, आयु, शिक्षा और आय स्तरों को दर्शाने वाले सिंथेटिक पर्सोना का उपयोग करके नियमित परीक्षण, सुसंगत स्पष्टता और स्वर सुनिश्चित करने के लिए।
• परिणाम निगरानी: सभी जनसांख्यिकी में प्रदर्शन मेट्रिक्स को ट्रैक करें, न केवल शिकायत दरों को, डिजिटल साक्षरता अंतराल को देखते हुए जो कुछ समूहों को मुद्दों की रिपोर्ट करने से रोक सकता है।
• जवाबदेही: "लाइसेंस धारक" सिद्धांत: प्रौद्योगिकी को आउटसोर्स करना देयता को आउटसोर्स नहीं करता है।
• सेवा स्तर समझौते: विक्रेता अनुबंधों में मॉडल व्याख्यायोग्यता और वित्तीय नुकसान पहुंचाने वाले हैलुसिनेशन के लिए देयता पर स्पष्ट खंड शामिल होने चाहिए।

AI एक उपकरण है, मानव नहीं। दक्षिण अफ्रीका में, जहां वित्तीय समावेशन और ग्राहक सुरक्षा सर्वोपरि है, AI को वित्तीय परिदृश्य को स्पष्ट करना चाहिए, इसे धुंधला नहीं करना चाहिए। POPIA, TCF और King V सिद्धांतों में तैनाती को आधार बनाकर, और मजबूत गवर्नेंस और मानव निरीक्षण को एम्बेड करके, वित्तीय संस्थान निष्पक्षता या स्थिरता से समझौता किए बिना AI की क्षमता का उपयोग कर सकते हैं। ठीक से उपयोग किया गया, AI मानव भूमिका को प्रतिस्थापित नहीं करता है, यह इसे ऊंचा उठाता है, पेशेवरों को निर्णय, संदर्भ और जवाबदेही पर ध्यान केंद्रित करने की अनुमति देता है जिसे मशीनें दोहरा नहीं सकती हैं।

जिम्मेदार वित्तीय AI तैनाती के लिए एक गवर्नेंस ढांचा

•  Nolwazi Hlophe | वरिष्ठ विशेषज्ञ: FinTech | FSCA  |  Dr Johann van der Lith | वरिष्ठ विशेषज्ञ: नियामक ढांचे | FSCA

* वित्तीय क्षेत्र आचरण प्राधिकरण (FSCA) दक्षिण अफ्रीका में वित्तीय संस्थानों के बाजार आचरण को नियंत्रित और पर्यवेक्षण करता है। www.fsca.co.za पर जाएं।