الحفاظ على النبض في الآلة: الحجة لصالح إفصاحات الذكاء الاصطناعي المتمحورة حول الإنسان

لم يعد الذكاء الاصطناعي مقتصرًا على المكاتب الخلفية. من روبوتات الدردشة التي تتعامل مع الاستفسارات المعقدة إلى المستشارين الآليين الذين ينتجون ملخصات المحافظ الاستثمارية، يعمل الذكاء الاصطناعي بشكل متزايد كقناة رئيسية لتوصيل المعلومات المالية. وبينما يوفر هذا التحول الكفاءة والنطاق، فإنه يضعف "اللمسة الإنسانية" في شرح المخاطر، حيث يمكن للمستشار البشري قياس تردد العميل وتقديم إرشادات دقيقة غالبًا ما تفتقر إليها واجهة الذكاء الاصطناعي المصممة للسرعة والوضوح.

في السياق الجنوب أفريقي، يخلق هذا مفارقة. تعد الإفصاحات القائمة على الذكاء الاصطناعي بإضفاء الطابع الديمقراطي على الوصول إلى المعلومات المالية، ومع ذلك فإنها تقدم مخاطر غامضة تهدد العدالة وحماية المستهلك والاستقرار النظامي. ومع دمج هذه التقنيات، يجب ألا يأتي الابتكار على حساب حماية العملاء.

الأساس التنظيمي: POPIA وTCF والحوكمة

يوفر الإطار التنظيمي لجنوب أفريقيا أساسًا قويًا لإدارة مخاطر الذكاء الاصطناعي، على الرغم من أنه لم يتم تصميمه مع وضع التعلم الآلي في الاعتبار.

ينطبق قانون حماية المعلومات الشخصية (POPIA) بشكل مباشر. تعتمد نماذج الذكاء الاصطناعي المالية على مجموعات بيانات ضخمة وسجلات ائتمانية وبيانات ديموغرافية وسلوكية، ويجب أن تظل المعالجة قانونية وشفافة ومتسقة مع الغرض الأصلي من الجمع. والأهم من ذلك، يمنح القسم 71 العملاء الحق في الطعن في القرارات المتخذة فقط من خلال العمليات الآلية عندما تحمل هذه القرارات عواقب قانونية. ومع أن تسجيل الائتمان الآلي والاكتتاب أصبحا معيارًا، يجب على المؤسسات ضمان مسار واضح للعملاء لطلب المراجعة اليدوية.

يمكن للذكاء الاصطناعي تعزيز نتائج معاملة العملاء بإنصاف (TCF) من خلال ضمان التطبيق المتسق لفحوصات القدرة على تحمل التكاليف. ومع ذلك، إذا تم تدريب نموذج على بيانات متحيزة تاريخيًا، فقد ينتج نتائج تمييزية، مما يخالف مبدأ المعاملة العادلة لـ TCF. تزيد طبيعة "الصندوق الأسود" للتعلم العميق من تعقيد النتيجة 3 (معلومات واضحة) والنتيجة 4 (مشورة مناسبة)، إذا لم تتمكن المؤسسات من شرح كيفية التوصل إلى نتيجة، يصبح الإفصاح الهادف صعبًا.

يعزز King V بشأن حوكمة الشركات (أكتوبر 2025) هذه الالتزامات: يوضح المبدأ 10 أن مجالس الإدارة يجب أن تتعامل مع العواقب الأخلاقية والقانونية والاستراتيجية لاتخاذ القرارات الآلية. الذكاء الاصطناعي ليس مجرد قضية تقنية معلومات.

العدالة والشفافية والحماية

تخاطر نماذج الذكاء الاصطناعي المدربة على البيانات الجنوب أفريقية التاريخية بإعادة إنتاج التفاوتات الاجتماعية والاقتصادية المتأصلة. حتى عندما يتم استبعاد الخصائص المحمية مثل العرق، فإن المتغيرات البديلة، الرموز البريدية ومستويات التعليم وأنماط التوظيف، قد تؤدي إلى نتائج تمييزية مماثلة وظيفيًا، مما يحد من الوصول إلى الائتمان أو التأمين بناءً على عوامل نظامية بدلاً من الجدارة الفردية.

يجب معايرة الشفافية بشكل هادف. يجب أن يتجاوز الإفصاح مجرد إخلاء مسؤولية بسيط: يستحق المستهلكون تفسيرات واضحة لكيفية تأثير الذكاء الاصطناعي على النتائج التي تؤثر عليهم، إلى جانب معلومات حول حقهم في الإنصاف. بالنسبة للجهات التنظيمية، يتحول التركيز إلى الحوكمة والقابلية للتفسير، دليل على أن الكيان يفهم منطق النموذج والضمانات المعمول بها.

يقدم الذكاء الاصطناعي التوليدي خطرًا إضافيًا من "الهلوسات"، مخرجات معقولة ولكنها غير صحيحة من الناحية الواقعية. قد يدفع نظام الذكاء الاصطناعي المصمم لتحويل العملاء المحتملين العملاء عن غير قصد نحو منتجات عالية المخاطر من خلال التقليل من تحذيرات المخاطر. يجب أن تمنع مرشحات الإخراج الذكاء الاصطناعي من اختصار الإفصاحات الإلزامية عن المخاطر.

الحفاظ على استقرار النظام المالي

بالإضافة إلى التفاعلات الفردية، يؤثر الذكاء الاصطناعي على الاستقرار النظامي الأوسع. يساعد الجهات التنظيمية على مسح مجموعات البيانات الضخمة على الفور للكشف عن الاحتيال أو الإعسار، حيث يعمل كنظام إنذار مبكر أسرع من التحليل البشري وحده. كما يمكنه ترجمة المصطلحات المالية المعقدة إلى لغة يسهل الوصول إليها، مما يقلل معدلات التخلف عن السداد من خلال تحسين فهم المستهلك.

ومع ذلك، فإن الاعتماد المفرط على عدد صغير من نماذج اللغة الكبيرة (LLMs) يخلق مخاطر التركيز: قد تفسر مؤسسات متعددة إشارات السوق بشكل متطابق وتستجيب في وقت واحد، مما يؤدي إلى تفاقم التقلبات أو إطلاق انهيارات فجائية. يمكن أن ينتشر خطأ ناتج عن الذكاء الاصطناعي في إفصاح عام رئيسي على الفور، مما يؤدي إلى استجابات تداول آلية قبل أن يتمكن البشر من تصحيح السجل. يمكن أن يؤثر خلل واحد في نموذج تقييم ائتماني مستخدم على نطاق واسع على ملايين العملاء في وقت واحد عبر بنوك مختلفة.

اعتبارات للمؤسسات المالية الجنوب أفريقية

مع انتقال المؤسسات من تجريب الذكاء الاصطناعي إلى النشر على نطاق واسع، يجب أن تتطور أطر الحوكمة. يجب أن تتضمن بروتوكولات الإنسان في الحلقة (HITL):

• المراجعة اليدوية الإلزامية: يجب أن تؤدي الإفصاحات الآلية المتعلقة بالعقود الملزمة أو القرارات عالية التأثير إلى مراجعة بشرية إلزامية.
• مفتاح الإيقاف: يجب تمكين فرق العمليات من تعليق أدوات الذكاء الاصطناعي على الفور عند اكتشاف نمط من الهلوسات.
• تدقيقات العدالة: اختبار منتظم باستخدام شخصيات اصطناعية تعكس تنوع جنوب أفريقيا واللغات والعمر والتعليم ومستويات الدخل، لضمان الوضوح والنبرة المتسقة.
• مراقبة النتائج: تتبع مقاييس الأداء عبر جميع الفئات الديموغرافية، وليس فقط معدلات الشكاوى، نظرًا لفجوات المعرفة الرقمية التي قد تمنع مجموعات معينة من الإبلاغ عن المشكلات.
• المسؤولية والمساءلة في جميع الأمور: مبدأ "حامل الترخيص": الاستعانة بمصادر خارجية للتكنولوجيا لا يعني الاستعانة بمصادر خارجية للمسؤولية.
• اتفاقيات مستوى الخدمة: يجب أن تتضمن عقود البائعين بنودًا صريحة حول قابلية شرح النموذج والمسؤولية عن الهلوسات التي تسبب ضررًا ماليًا.

الذكاء الاصطناعي أداة، وليس إنسانًا. في جنوب أفريقيا، حيث يعتبر الشمول المالي وحماية العملاء أمرًا بالغ الأهمية، يجب أن يوضح الذكاء الاصطناعي المشهد المالي، وليس تعتيمه. من خلال تأسيس النشر في مبادئ POPIA وTCF وKing V، ودمج حوكمة قوية وإشراف بشري، يمكن للمؤسسات المالية تسخير إمكانات الذكاء الاصطناعي دون المساس بالعدالة أو الاستقرار. عند استخدامه بشكل صحيح، لا يحل الذكاء الاصطناعي محل الدور البشري، بل يرفعه، مما يسمح للمهنيين بالتركيز على الحكم والسياق والمساءلة التي لا يمكن للآلات تكرارها.

إطار حوكمة لنشر الذكاء الاصطناعي المالي المسؤول

•  Nolwazi Hlophe | أخصائي أول: التكنولوجيا المالية | FSCA  |  Dr Johann van der Lith | أخصائي أول: الأطر التنظيمية | FSCA

* تنظم هيئة سلوك القطاع المالي (FSCA) وتشرف على سلوك السوق للمؤسسات المالية في جنوب أفريقيا. قم بزيارة www.fsca.co.za.