KI hat kein Vertrauensproblem; sie hat ein Übersetzungsproblem

Die Diskussion über künstliche Intelligenz hat einen vorhersehbaren Stillstand erreicht. Benutzer sagen, dass sie KI nicht vertrauen. Unternehmen versprechen Transparenz. Regulierungsbehörden drohen mit Intervention. Doch das Kernproblem bleibt: Menschen können nicht vertrauen, was sie nicht verstehen, und die meisten KI-Systeme kommunizieren immer noch auf eine Weise, die sich für Benutzer fremd anfühlt. 

Die Vertrauenskrise dreht sich weniger um Vertrauen selbst und mehr um Übersetzung. Wenn ein Kreditantrag abgelehnt wird, ein Bewerber aussortiert wird oder die Absichtserklärung eines Studenten wegen KI-Plagiats markiert wird, erklärt das System selten seine Argumentation in Begriffen, die Menschen verarbeiten können. Benutzer bleiben ratend, frustriert und skeptisch zurück.

Die Technologie ist hochfunktional, aber sie zeigt ihre Arbeit nicht; es gibt keine Erklärbarkeit. 

Diese Übersetzungslücke hat wirtschaftliche und soziale Folgen. Eine globale KPMG-Studie von 2023 ergab, dass 61 Prozent der Menschen vorsichtig sind, wenn es darum geht, KI-Systemen zu vertrauen, wobei nur die Hälfte glaubt, dass die Vorteile die Risiken überwiegen. Dieses Misstrauen kostet Unternehmen Milliarden an nicht realisierter Produktivität durch verzögerte KI-Einführung.

Aber das Problem geht über Geschäftsergebnisse hinaus. In vielen Sektoren prägen KI-Systeme jetzt Entscheidungen mit erheblichen persönlichen Auswirkungen. Wenn diese Systeme sich nicht erklären können, werden sie zu nicht rechenschaftspflichtigen Torwächtern.

Bildung ist ein klares Beispiel. Algorithmen bewerten Tausende von Datenpunkten von akademischer Leistung, finanzieller Kapazität, Standort bis hin zu Karrierezielen und erstellen Empfehlungen, die die Zukunft der Studenten beeinflussen.

Ähnlich: Können 'KI-Richter' die Lösung für die Probleme im nigerianischen Justizsystem sein?

Dennoch wissen Studenten selten, warum bestimmte Optionen erscheinen oder wie das System ihre Informationen interpretiert. Ähnliche Undurchsichtigkeit erscheint in Gesundheitswesen, Einstellung, Finanzen und öffentlichen Diensten.

Das Argument, dass KI "zu komplex zu erklären" ist, verfehlt den Punkt. Komplexität ist nicht die Barriere; Kommunikation ist es. Andere Bereiche übersetzen täglich komplexe Informationen für Nicht-Experten. Die Herausforderung besteht nicht darin, die zugrunde liegenden Systeme einfacher zu machen; es geht darum, ihre Logik auf eine Weise auszudrücken, die Benutzer verstehen können.

Während die technische Erklärbarkeitsforschung weiter voranschreitet, bietet sie Methoden zur Nachverfolgung des Modellverhaltens. Diese Methoden bedeuten jedoch wenig, wenn die Erklärungen Kerndomänenwissen erfordern. Die Lösung des Übersetzungsproblems erfordert mehr als die Offenlegung der internen Logik; es erfordert die Erstellung von Erklärungen, die verständlich, relevant und nutzbar sind.

Die Lösung der Übersetzungslücke würde eine schnellere, selbstbewusstere Einführung ermöglichen. Menschen nutzen Werkzeuge, die sie verstehen. Wenn Benutzer verstehen, warum sich ein System auf eine bestimmte Weise verhält, sind sie eher bereit, seine Empfehlungen zu akzeptieren und effektiv zu nutzen.

In Zukunft müssen Entwickler nicht nur fragen "funktioniert das?", sondern "können Benutzer verstehen, warum es funktioniert?" Organisationen, die KI einsetzen, sollten neben der technischen Optimierung in Kommunikationsdesign investieren.

Bildquelle: Unsplash

Regulierungsbehörden sollten Erklärungen verlangen, die auf Benutzer abzielen, nicht nur Dokumentation für Prüfer. Klare Erklärungen unterstützen bessere Entscheidungen, mehr Engagement und gerechtere Ergebnisse. 

Übersetzung muss zu einem Kernmerkmal von KI-Systemen werden. Das bedeutet, Werkzeuge zu entwickeln, die in einfacher Sprache kommunizieren, Erklärungen mit echten Benutzern zu testen und die Bereitstellung von Systemen zurückzuhalten, die ihre Argumentation nicht klar artikulieren können. Technologie, die das Leben der Menschen beeinflusst, muss sich selbst erklären können. Alles andere ist kein Vertrauensproblem; es ist ein Übersetzungsfehler.

Über die Autorin

Mathilda Oladimeji ist Doktorandin in Informationssystemen an der Louisiana State University, wo sie KI-Erklärbarkeit und Benutzervertrauen erforscht.

Zuvor war sie als Regional Marketing Manager für Intake Education in ganz Afrika tätig und verwaltete digitale Kampagnen für über 100 Universitäten.​​​​​