الذكاء الاصطناعي ليس لديه مشكلة ثقة؛ بل لديه مشكلة ترجمة

وصل النقاش حول الذكاء الاصطناعي إلى طريق مسدود متوقع. يقول المستخدمون إنهم لا يثقون بالذكاء الاصطناعي. تعد الشركات بالشفافية. يهدد المنظمون بالتدخل. ومع ذلك، تبقى المشكلة الأساسية: لا يمكن للناس أن يثقوا بما لا يفهمونه، ولا تزال معظم أنظمة الذكاء الاصطناعي تتواصل بطرق تبدو غريبة للمستخدمين.

أزمة الثقة تتعلق بالترجمة أكثر من الثقة نفسها. عندما يتم رفض طلب قرض، أو استبعاد مرشح لوظيفة، أو تحديد بيان الغرض الخاص بطالب للانتحال باستخدام الذكاء الاصطناعي، نادراً ما يشرح النظام منطقه بمصطلحات يمكن للبشر فهمها. يُترك المستخدمون للتخمين، محبطين ومتشككين.

التكنولوجيا عالية الوظائف، لكنها لا تظهر عملها؛ لا يوجد قابلية للشرح.

لهذه الفجوة في الترجمة عواقب اقتصادية واجتماعية. وجدت دراسة عالمية أجرتها KPMG عام 2023 أن 61 في المائة من الناس حذرون بشأن الثقة بأنظمة الذكاء الاصطناعي، مع اعتقاد النصف فقط أن الفوائد تفوق المخاطر. هذا الافتقار للثقة يكلف الشركات مليارات في الإنتاجية غير المحققة من خلال تأخير اعتماد الذكاء الاصطناعي.

لكن المشكلة تمتد إلى ما هو أبعد من نتائج الأعمال. في العديد من القطاعات، تشكل أنظمة الذكاء الاصطناعي الآن قرارات ذات تأثير شخصي كبير. عندما لا تستطيع هذه الأنظمة شرح نفسها، تصبح حراساً غير خاضعين للمساءلة.

التعليم هو مثال واضح. تقيّم الخوارزميات آلاف نقاط البيانات من الأداء الأكاديمي، والقدرة المالية، والموقع، إلى الأهداف المهنية وتقدم توصيات تؤثر على مستقبل الطلاب.

مشابه: هل يمكن أن يكون "قضاة الذكاء الاصطناعي" هم الحل لمشاكل نظام العدالة في نيجيريا؟

ومع ذلك، نادراً ما يعرف الطلاب سبب ظهور خيارات معينة أو كيفية تفسير النظام لمعلوماتهم. يظهر غموض مماثل في مجالات الرعاية الصحية والتوظيف والتمويل والخدمات العامة.

الحجة القائلة بأن الذكاء الاصطناعي "معقد للغاية لشرحه" تفتقد النقطة. التعقيد ليس هو العائق؛ بل التواصل. تترجم المجالات الأخرى المعلومات المعقدة للمبتدئين كل يوم. التحدي ليس جعل الأنظمة الأساسية أبسط؛ بل التعبير عن منطقها بطرق يمكن للمستخدمين فهمها.

بينما يستمر البحث في قابلية الشرح التقنية في التقدم، فإنه يقدم طرقاً لتتبع سلوك النموذج. ومع ذلك، هذه الطرق تعني القليل إذا كانت التفسيرات تتطلب خلفية معرفية أساسية في المجال. معالجة مشكلة الترجمة تتطلب أكثر من كشف المنطق الداخلي؛ تتطلب إنتاج تفسيرات مفهومة وذات صلة وقابلة للاستخدام.

حل فجوة الترجمة سيمكّن من اعتماد أسرع وأكثر ثقة. يستخدم الناس الأدوات التي يفهمونها. عندما يفهم المستخدمون سبب تصرف النظام بطريقة معينة، يكونون أكثر ميلاً لقبول توصياته واستخدامها بفعالية.

للمضي قدماً، يجب على المطورين أن يسألوا ليس فقط "هل هذا يعمل؟" ولكن "هل يمكن للمستخدمين فهم سبب عمله؟" يجب على المنظمات التي تنشر الذكاء الاصطناعي الاستثمار في تصميم التواصل إلى جانب التحسين التقني.

المصدر: Unsplash

يجب أن يطلب المنظمون تفسيرات موجهة للمستخدمين، وليس مجرد وثائق للمدققين. التفسيرات الواضحة تدعم قرارات أفضل، ومشاركة أكبر، ونتائج أكثر إنصافاً.

يجب أن تصبح الترجمة ميزة أساسية في أنظمة الذكاء الاصطناعي. هذا يعني تصميم أدوات تتواصل بلغة بسيطة، واختبار التفسيرات مع مستخدمين حقيقيين، وحجب نشر الأنظمة التي لا يمكنها شرح منطقها بوضوح. التكنولوجيا التي تؤثر على حياة الناس يجب أن تكون قادرة على شرح نفسها. أي شيء أقل من ذلك ليس مشكلة ثقة؛ بل هو فشل في الترجمة.

عن الكاتب

ماتيلدا أولاديميجي هي باحثة دكتوراه في نظم المعلومات بجامعة ولاية لويزيانا، حيث تدرس قابلية شرح الذكاء الاصطناعي وثقة المستخدم.

عملت سابقاً كمديرة تسويق إقليمية لـ Intake Education عبر أفريقيا، حيث أدارت حملات رقمية لأكثر من 100 جامعة.