[Tech Thoughts] Vergeet niet: Werken met AI vereist menselijk toezicht

Deze week trok Zuid-Afrika zijn ontwerp voor een nationaal beleid inzake kunstmatige intelligentie in, vanwege een opvallend probleem — de referentielijst van het beleid bevatte enkele bronnen die door AI waren verzonnen.

Dit verschijnsel waarbij verzonnen bronnen opduiken in verder normale documentatie is momenteel een probleem, aangezien er zoveel door AI gehallucineeerde bronnen zijn dat er een database bestaat van juridische procedures die door AI-hallucinaties zijn ontspoord.

Hoewel sommige Tech Thoughts-lezers het misschien grappig vinden dat mensen die generatieve AI kritiekloos gebruiken hun verdiende loon krijgen, moet worden benadrukt dat, tenzij er een apocalyptische gebeurtenis plaatsvindt die AI vernietigt, we allemaal vroeg of laat zullen moeten omgaan met en misschien samenwerken met een of andere vorm van AI-automatisering, ongeacht onze gevoelens over het bestaan van AI in welke vorm dan ook.

Dit betekent dat mensen zichzelf moeten trainen om tegelijkertijd samen te werken met en te wantrouwen aan AI-uitvoer.

Waarom is het belangrijk?

De Internationale Arbeidsorganisatie (IAO) schatte in februari in een rapport over generatieve AI en de blootstelling van de Filipijnse arbeidsmarkt daaraan dat ongeveer 12,7 miljoen werknemers in de Filipijnen (oftewel een kwart van de werkenden) worden blootgesteld aan generatieve AI.

Hoewel AI niet precies fungeert als vervanging van banen, automatiseert het bepaalde taken in de banen die mensen al hebben.

De IAO zei dat slechts 3,6% van de banen in de hoogste blootstellingscategorie van GenAI valt, met een verhoogd risico op baanverdrijving. "In plaats van volledige automatisering zal de meest significante impact van GenAI op de Filipijnse arbeidsmarkt waarschijnlijk de transformatie van banen zijn, potentiële productiviteitswinsten en verbeterde arbeidsomstandigheden," voegde het eraan toe.

Bovendien stelt de IAO dat deze blootstelling aan GenAI op de werkplek niet genderneutraal is, maar eerder de banen van vrouwen meer dan die van mannen beïnvloedt. "Vrouwen worden geconfronteerd met het dubbele blootstellingspercentage van GenAI vergeleken met mannen, wat hun grotere concentratie in beroepen met hoge blootstelling weerspiegelt. Vrouwen met een hogere opleiding lopen een bijzonder hoog risico op verstoring door GenAI," vervolgde de IAO.

Wat de IAO hier aangeeft, is dat als AI onvermijdelijk wordt, we er maar beter naast kunnen leren werken — hoewel we er misschien het beste aan doen het te behandelen als een klok die gerepareerd moet worden en niet altijd correct zal zijn, zodat we de uitvoer ervan moeten controleren.

Burn-out en 'hersenoverbelasting'

Werken in een door AI gedomineerde wereld kan betekenen dat je het werk van twee mensen doet, of in ieder geval het cognitieve equivalent van proberen iets te doen terwijl je herhaaldelijk wordt gevraagd het werk van iemand anders te controleren, totdat de klus geklaard is.

Concreet moet je je eigen werk doen, en wanneer je AI gebruikt, moet je de uitvoer ervan controleren om er zeker van te zijn dat deze daadwerkelijk bruikbaar is voor je huidige taak.

Zoals onderzoekers in een studie gepubliceerd door Harvard Business Review het verwoordden toen ze bestudeerden hoe AI het werk beïnvloedde: "In tegenstelling tot de belofte van meer tijd om je te concentreren op zinvol werk, kan jongleren en multitasken de bepalende kenmerken worden van werken met AI."
Deze "hersenoverbelasting", of de cognitieve uitputting door intensief toezicht op AI-agenten (in feite het controleren van het werk van AI), is een reëel fenomeen. De onderzoekers definieerden het als de "mentale vermoeidheid door overmatig gebruik of toezicht op AI-tools die de cognitieve capaciteit overschrijdt."

Deze AI-gerelateerde mentale belasting brengt aanzienlijke kosten met zich mee in de vorm van meer fouten van medewerkers, beslissingsvermoeidheid en de intentie om te stoppen.

Tegelijkertijd kan het gebruik van AI voor de repetitieve taken van bepaalde banen worden gezegd de burn-out te verminderen, of de emotionele belasting van het werk. De onderzoekers stelden dat het overdragen van de saaie repetitieve taken aan AI werknemers in staat stelt zich te concentreren op creatiever werk — dingen die ze eigenlijk willen doen. Door de saaie dingen over te dragen, lijkt het erop dat sommige werknemers "hogere scores rapporteerden voor werkbetrokkenheid en motivatie; meer positieve emotionele associaties met AI; en minder negatieve emotionele associaties met AI dan anderen."

Burn-out en hersenoverbelasting zijn twee kanten van dezelfde medaille van het werken. Terwijl burn-out een emotioneel gedreven vermoeidheid is, is AI-hersenoverbelasting een mentaal gedreven cognitieve belasting.

De 'toekomst' van werk

Zonder al te veel in details te treden, werk ik momenteel samen met iemand aan het gebruik van AI om bepaalde aspecten van het werk eenvoudiger te maken. Ik geef echter toe dat ik opzie tegen de potentiële hersenoverbelasting van het controleren van een ruwe schatting van 100 AI-uitvoeren.

Het zal inhouden dat AI-uitvoer op nauwkeurigheid wordt gecontroleerd, terwijl ook de creatieve taken worden uitgevoerd van het oplossen van stijlproblemen zodat de uitvoer niet als een robotische afdruk leest.

Het creatieve werk kan ik doen, maar de taak van het controleren van het werk van een AI klinkt helemaal niet leuk. Het is echter een noodzakelijke taak. Als het aan zijn lot wordt overgelaten, zal AI onvermijdelijk iets fout doen, en dat schaadt mijn integriteit en die van Rappler als geheel.

Zoals de Zuid-Afrikaanse minister van Communicatie en Digitale Technologieën Solly Malatsi zei over de AI-beleidsfout die ze maakten: "Dit falen is niet slechts een technisch probleem, maar heeft de integriteit en geloofwaardigheid van het ontwerp van het beleid aangetast."

Als je met AI werkt, betekent dit dat de verantwoordelijkheid om ervoor te zorgen dat AI geen domme dingen doet onbenijdenswaardig op de schouders van de mens die erop toeziet zal rusten. Dus blijf waakzaam en scherp, en onthoud: welkom in de "toekomst" van werk. – Rappler.com