[Tech Thoughts] Nicht vergessen: Die Arbeit mit KI erfordert menschliche Aufsicht

Diese Woche hat Südafrika seinen Entwurf für eine nationale Strategie zur künstlichen Intelligenz zurückgezogen, da ein gravierendes Problem aufgedeckt wurde – die Referenzliste der Strategie enthielt Quellen, die von KI erfunden worden waren.

Dieses Phänomen erfundener Quellen in ansonsten normaler Dokumentation ist derzeit ein echtes Problem, da es bereits so viele halluzinierte KI-Quellenangaben gegeben hat, dass eine Datenbank mit durch KI-Halluzinationen entgleisten Gerichtsverfahren existiert.

Während einige Tech-Thoughts-Leser es vielleicht amüsant finden, dass Menschen, die generative KI unkritisch nutzen, nun die Quittung dafür bekommen, muss betont werden: Solange kein apokalyptisches Ereignis die KI auslöscht, werden wir alle früher oder später mit irgendeiner Form von KI-Automatisierung umgehen und womöglich zusammenarbeiten müssen – unabhängig davon, wie wir zur Existenz von KI in welcher Form auch immer stehen.

Das bedeutet, dass Menschen lernen müssen, gleichzeitig mit KI-Ausgaben zu arbeiten und ihnen zu misstrauen.

Warum ist das wichtig?

Die Internationale Arbeitsorganisation (ILO) schätzte bereits im Februar in einem Bericht über generative KI und die Exposition des philippinischen Arbeitsmarktes, dass rund 12,7 Millionen Arbeitnehmer auf den Philippinen (also etwa ein Viertel der Beschäftigten) generativer KI ausgesetzt sind.

KI dient dabei nicht unbedingt als Jobersatz, sondern automatisiert bestimmte Aufgaben in den Berufen, die Menschen bereits ausüben.

Die ILO erklärte, dass nur 3,6 % der Arbeitsplätze in die höchste Kategorie der GenKI-Exposition mit erhöhtem Risiko der Jobverdrängung fallen. „Anstatt einer vollständigen Automatisierung wird die bedeutendste Auswirkung von GenKI auf den philippinischen Arbeitsmarkt wahrscheinlich die Transformation von Arbeitsplätzen, potenzielle Produktivitätssteigerungen und eine verbesserte Beschäftigungsqualität sein", fügte sie hinzu.

Darüber hinaus weist die ILO darauf hin, dass diese Exposition gegenüber GenKI am Arbeitsplatz nicht geschlechtsneutral ist, sondern die Arbeitsplätze von Frauen stärker betrifft als die von Männern. „Frauen sind doppelt so stark von GenKI-Exposition betroffen wie Männer, was ihre stärkere Konzentration in hochexponierten Berufen widerspiegelt. Frauen mit höherer Bildung sind einem besonders hohen Potenzial einer GenKI-Disruption ausgesetzt", so die ILO weiter.

Was die ILO hier deutlich macht, ist: Wenn KI unvermeidlich wird, sollten wir am besten lernen, mit ihr zusammenzuarbeiten – auch wenn wir sie am besten wie eine reparaturbedürftige Uhr behandeln sollten, die nicht immer richtig geht, sodass wir ihre Ausgaben stets gegenchecken müssen.

Burnout und „Gehirn-Überhitzung"

Arbeit in einer von KI geprägten Welt kann bedeuten, die Arbeit von zwei Personen zu erledigen – oder zumindest das kognitive Äquivalent davon, etwas zu tun, während man wiederholt gebeten wird, die Arbeit einer anderen Person zu überprüfen, bis die Aufgabe erledigt ist.

Konkret bedeutet das: Man muss seine eigene Arbeit erledigen und beim Einsatz von KI deren Ausgaben prüfen, um sicherzustellen, dass sie für die aktuelle Aufgabe tatsächlich nutzbar sind.

Wie Forscher in einer im Harvard Business Review veröffentlichten Studie es formulierten, als sie untersuchten, wie KI die Arbeit beeinflusst: „Entgegen dem Versprechen, mehr Zeit für bedeutungsvolle Arbeit zu haben, können Jonglieren und Multitasking zu den bestimmenden Merkmalen der Arbeit mit KI werden."
Diese „Gehirn-Überhitzung", also die kognitive Erschöpfung durch intensive Überwachung von AI Agents (im Grunde das Überprüfen der KI-Arbeit), ist ein reales Phänomen. Die Forscher definierten es als „mentale Erschöpfung durch übermäßige Nutzung oder Überwachung von KI-Tools, die die eigene kognitive Kapazität übersteigt".

Diese KI-assoziierte mentale Belastung verursacht erhebliche Kosten in Form von häufigeren Mitarbeiterfehlern, Entscheidungsmüdigkeit und Kündigungsabsichten.

Gleichzeitig kann der Einsatz von KI zur Bewältigung repetitiver Aufgaben bestimmter Berufe als burnoutreduzierend angesehen werden – als Abbau der emotionalen Belastung durch die Arbeit. Die Forscher vertraten die Ansicht, dass das Auslagern monotoner, repetitiver Aufgaben an KI den Arbeitnehmern ermöglicht, sich auf kreativere Tätigkeiten zu konzentrieren – auf Dinge, die sie wirklich tun möchten. Durch das Auslagern der langweiligen Aufgaben berichteten offenbar einige Mitarbeiter „von höherem Arbeitsengagement und höheren Motivationswerten, positiveren emotionalen Assoziationen mit KI und weniger negativen emotionalen Assoziationen mit KI als andere".

Burnout und Gehirn-Überhitzung sind zwei Seiten derselben Medaille der Arbeit. Während Burnout eine emotional bedingte Müdigkeit oder Erschöpfung ist, ist die KI-bedingte Gehirn-Überhitzung eine mental bedingte kognitive Belastung.

Die „Zukunft" der Arbeit

Ohne zu sehr ins Detail zu gehen: Ich arbeite derzeit mit jemandem zusammen daran, KI einzusetzen, um bestimmte Aspekte der Arbeit zu erleichtern. Ich gebe jedoch zu, dass ich mich vor der potenziellen Gehirn-Überhitzung durch das Überprüfen von schätzungsweise 100 KI-Ausgaben fürchte.

Dabei wird es darum gehen, KI-Ausgaben auf Genauigkeit zu überprüfen und gleichzeitig die kreative Aufgabe zu übernehmen, Stilprobleme zu beheben, damit der Output nicht wie ein roboterhafter Ausdruck klingt.

Den kreativen Teil kann ich bewältigen, aber die Aufgabe, die Arbeit einer KI zu überprüfen, klingt überhaupt nicht nach Spaß. Es ist jedoch eine notwendige Aufgabe. Wenn man die KI sich selbst überlässt, macht sie zwangsläufig Fehler, und das schadet mir und der Glaubwürdigkeit von Rappler als Ganzem.

Wie der südafrikanische Minister für Kommunikation und digitale Technologien, Solly Malatsi, bezüglich des von ihnen verursachten KI-Strategiefehlers sagte: „Dieses Versagen ist kein bloßes technisches Problem, sondern hat die Integrität und Glaubwürdigkeit des Strategieentwurfs gefährdet."

Wenn man mit KI arbeitet, bedeutet das, dass die Verantwortung dafür, dass KI keine Fehler macht, unweigerlich auf den Schultern des Menschen liegt, der sie überwacht. Bleiben Sie also wachsam und aufmerksam, und denken Sie daran: Willkommen in der „Zukunft" der Arbeit. – Rappler.com