L'IA n'a pas un problème de confiance ; elle a un problème de traduction

La conversation autour de l'intelligence artificielle a atteint une impasse prévisible. Les utilisateurs disent qu'ils ne font pas confiance à l'IA. Les entreprises promettent la transparence. Les régulateurs menacent d'intervenir. Pourtant, le problème fondamental demeure : les gens ne peuvent pas faire confiance à ce qu'ils ne comprennent pas, et la plupart des systèmes d'IA communiquent encore d'une manière qui semble étrangère aux utilisateurs. 

La crise de confiance concerne moins la confiance elle-même que la traduction. Lorsqu'une demande de prêt est rejetée, qu'un candidat à un emploi est écarté, ou qu'une déclaration d'intention d'un étudiant est signalée pour plagiat par IA, le système explique rarement son raisonnement en termes compréhensibles pour les humains. Les utilisateurs sont laissés à deviner, frustrés et sceptiques.

La technologie est très fonctionnelle, mais elle ne montre pas son travail ; il n'y a pas d'explicabilité. 

Ce fossé de traduction a des conséquences économiques et sociales. Une étude mondiale de KPMG en 2023 a révélé que 61 pour cent des personnes sont méfiantes quant à la confiance accordée aux systèmes d'IA, et seulement la moitié croit que les avantages l'emportent sur les risques. Cette méfiance coûte aux entreprises des milliards en productivité non réalisée en raison de l'adoption retardée de l'IA.

Mais le problème va au-delà des résultats commerciaux. Dans de nombreux secteurs, les systèmes d'IA façonnent désormais des décisions ayant un impact personnel significatif. Lorsque ces systèmes ne peuvent pas s'expliquer, ils deviennent des gardiens non responsables.

L'éducation en est un exemple clair. Les algorithmes évaluent des milliers de points de données allant des performances académiques, de la capacité financière, de l'emplacement, aux objectifs de carrière et produisent des recommandations qui influencent l'avenir des étudiants.

Similaire : Les 'Juges IA' peuvent-ils être la solution aux problèmes du système judiciaire nigérian ?

Pourtant, les étudiants savent rarement pourquoi certaines options apparaissent ou comment le système interprète leurs informations. Une opacité similaire apparaît dans les soins de santé, le recrutement, la finance et les services publics.

L'argument selon lequel l'IA est "trop complexe à expliquer" passe à côté de l'essentiel. La complexité n'est pas la barrière ; c'est la communication. D'autres domaines traduisent quotidiennement des informations complexes pour les non-experts. Le défi n'est pas de simplifier les systèmes sous-jacents ; c'est d'exprimer leur logique d'une manière que les utilisateurs peuvent comprendre.

Bien que la recherche sur l'explicabilité technique continue de progresser, elle offre des méthodes pour tracer le comportement des modèles. Cependant, ces méthodes signifient peu si les explications nécessitent une connaissance approfondie du domaine. Résoudre le problème de traduction nécessite plus que d'exposer la logique interne ; cela nécessite de produire des explications compréhensibles, pertinentes et utilisables.

Résoudre le fossé de traduction permettrait une adoption plus rapide et plus confiante. Les gens utilisent des outils qu'ils comprennent. Lorsque les utilisateurs saisissent pourquoi un système se comporte d'une certaine manière, ils sont plus susceptibles d'accepter et d'utiliser efficacement ses recommandations.

À l'avenir, les développeurs doivent se demander non seulement "est-ce que ça marche ?" mais "les utilisateurs peuvent-ils comprendre pourquoi ça marche ?" Les organisations déployant l'IA devraient investir dans la conception de la communication parallèlement à l'optimisation technique.

Source de l'image : Unsplash

Les régulateurs devraient exiger des explications destinées aux utilisateurs, pas seulement de la documentation pour les auditeurs. Des explications claires favorisent de meilleures décisions, plus d'engagement et des résultats plus équitables. 

La traduction doit devenir une fonctionnalité essentielle des systèmes d'IA. Cela signifie concevoir des outils qui communiquent en langage clair, tester les explications avec de vrais utilisateurs et retenir le déploiement de systèmes qui ne peuvent pas articuler clairement leur raisonnement. La technologie qui influence la vie des gens doit pouvoir s'expliquer. Tout ce qui est moins n'est pas un problème de confiance ; c'est un échec de traduction.

À propos de l'auteur

Mathilda Oladimeji est chercheuse doctorale en Systèmes d'Information à l'Université d'État de Louisiane, où elle étudie l'explicabilité de l'IA et la confiance des utilisateurs.

Elle a précédemment occupé le poste de Responsable Marketing Régional pour Intake Education à travers l'Afrique, gérant des campagnes numériques pour plus de 100 universités.​​​​​