Ettevõtlusministeeriumid üle kogu Lõuna-Aafrika Vabariigi tuginevad üha enam digitaalsetele tööriistadele, et hinnata avalikke programme ja jälgida nende tulemuslikkust. See on osa laiematest avaliku sektori reformidest. Nende eesmärk on parandada aruandluskohustust, vastata audiitorkontrolli survele ning juhtida suuremahulisi programme piiratud personali ja eelarvega.
Siin on üks näide. Riiklikud ministeeriumid, kes jälgivad elamute ehitamist, sotsiaaltoetuste maksmist või infrastruktuuri arendamist, tuginevad mitte perioodilistele paberil põhinevate aruannetele, vaid digitaalsetele tulemuslikkussüsteemidele. Juhtpaneelid – viis visualiseerida andmeid ühes kohas – pakuvad teenuste osutamise kohta peaaegu reaalajas uuendusi.
Teine näide on mobiilseid andmeid koguvate platvormide kasutamine. Need võimaldavad esmatasandi ametnikel ja töövõtjatel info otse väljast üles laadida.
Mõlemad näited sobivad hästi tehisintellekti (AI) kasutamiseks suurte andmehulkade töötlemiseks ja uuringute tegemiseks, mille analüüsimine oleks varem võtnud kuude kaupa.
Seda muutust kujutatakse sageli kui edasiminekut avaliku sektori aruandluskohustuse ja efektiivsuse suunas.
Olen avaliku poliitika uurija, kellel on eriline huvi valitsuslike programmide monitooringu ja hindamise vastu. Minu hiljutised uuringud näitavad murettekitavat trendi: tehnoloogiale üleminek toimub palju kiiremini, kui selle reguleerimiseks loodud eetilised ja juhtimiskorraldused.
Kõigi poolt uuritud juhtumite puhul olid digitaalsed tööriistad juba igapäevasesse monitooringu ja hindamise protsessi integreeritud. Kuid nende kasutamist ei reguleerinud kindlad standardid.
See seab ohtu järelevalve, diskrimineerimise, andmete väärkasutamise ja kehva professionaalse otsustusvõime. Need ohud pole abstraktsed. Need mõjutavad seda, kuidas kodanikud riiki kogeda, kuidas nende andmeid käsitatakse ja kelle hääl lõpuks poliitilistes otsustes arvesse läheb.
Kui tehnoloogia jõuab poliitikast ette
Avaliku sektori hindamine hõlmab valitsuslike programmide ja poliitikate hindamist. See otsustab, kas:
- avalikke ressursse kasutatakse tõhusalt,
- programmid saavutavad oma eesmärgid,
- kodanikud saavad riigilt tulemuslikkuse eest aru pärida.
Traditsiooniliselt sõltusid need hinnangud kogukondade, hindajate, valitsuse ja teiste osapoolte vahelisel isiklikul suhtlemisel. Need hõlmasid kvalitatiivseid meetodeid, mis võimaldasid nuansse, selgitusi ja usalduse loomist.
Digitaalsed tööriistad on seda muutnud.
Minu uuringutes intervjueerisin hindajaid valitsusest, MTÜdest, akadeemias, erialaliitudest ja erakonsultatsiooniettevõtetest. Leidsin, et kõigil oli ühine mure: digitaalsed süsteemid võetakse sageli kasutusele ilma hindamistava jaoks kohandatud eetiliste juhisteta.
Eetilised juhised annaksid selged ja praktilised reeglid, kuidas digitaalseid tööriistu hindamises kasutatakse. Näiteks juhtpaneelide või automaatsete andmeanalüüside kasutamisel peaks juhend nõudma, et hindajad selgitaksid, kuidas andmed on saadud, kellel on neile ligipääs ja kuidas võivad leitud tulemused mõjutada hindatavaid kogukondi. Samuti tuleks takistada digitaalsete süsteemide kasutamist isikute jälgimiseks ilma nõusolekuta või programme riietama viisidel, mis eiravad konteksti.
Lõuna-Aafrika Vabariigi Isikuandmete Kaitse Seadus pakub üldist õiguslikku raamistikku andmete kaitseks. Kuid see ei lahenda spetsiifilisi eetilisi dilemmasid, mis tekivad siis, kui hindamine muutub automatiseerituks, pilvepõhiseks ja algoritmide abil vahendatuks.
Selle tulemusena jäävad hindajad sageli keerulise eetilise maastiku navigeerimisele ilma selgete standarditeta. See sunnib institutsioone tuginema pretsedentidele, mitteametlikule tavale, varasematele praktikatele ja tarkvara vaikimisi seadistustele.
Järelevalve laienemine ja andmete väärkasutamine
Digitaalsed platvormid võimaldavad koguda suuri andmemahtusid. Kui andmed on üles laetud pilvepõhistesse süsteemidesse või kolmandate osapoolte platvormidesse, liigub nende salvestamise, taaskasutamise ja jagamise kontroll sageli hindajatelt teiste kätte.
Mitmed hindajad kirjeldasid olukordi, kus andmeid, mida nad olid valitsuse eest kogunud, kasutasid hiljem ministeeriumid või teised riigiasutused. Seda tehti ilma osalejate selge teadmiseta. Digitaalsetes keskkondades on nõusolekuprotsessid sageli vähendatud ühele klõpsule.
Teiste kasutusviiside hulka kuulusid muud analüüsid, aruanded või institutsionaalne jälgimine.
Uuringust tulenev eetiline risk oli andmete kasutamine järelevalveks. See tähendab andmete kasutamist isikute, kogukondade või esmatasandi töötajate jälgimiseks.
Digitaalne diskrimineerimine ja nähtamatud hääled
Digitaalseid hindamistööriistu tutvustatakse sageli kui võimalust laiendada haarde ulatust ja osalust. Praktikas võivad need aga juba marginaliseeritud gruppe välistada. Kogukonnad, kellel on piiratud internetiühendus, madal digitaalne kirjaoskus, keelebarjäärid või ebakindel infrastruktuur, osalevad digitaalses hindamises harvemini täielikult.
Automatiseeritud tööriistadel on piirangud. Näiteks võivad nad raskustega töötada mitmekeelsete andmete, kohalike aktsentide või kultuurispetsiifiliste väljendusviisidega. See viib elukogemuste osalisteni või moonutatud kujutluseni. Minu uuringus nägid hindajad seda praktikas.
Sellel diskrimineerimisel on tõsised tagajärjed, eriti sellises ebavõrdsusega riigis nagu Lõuna-Aafrika Vabariik. Hindamised, mis sõltuvad tugevalt digitaalsetest tööriistadest, võivad tuua esile linnakogukonnad ja ühendatud elanikkonna, jättes maapiirkonnad või informaalsed kogukonnad statistiliselt nähtamatuks.
See pole pelgalt tehniline piirang. See mõjutab seda, millised vajadused tunnustatakse ja kelle kogemused mõjutavad poliitilisi otsuseid. Kui hindamisandmed esindavad ebaõnnestunud ja haavatavamaid inimesi ebapiisavalt, võivad valitsuslikud programmid tunduda efektiivsematena, kui nad tegelikult on. See varjab struktuurseid ebaõnnestumisi, selle asemel et neid lahendada.
Minu uuringus teatasid mõned hindamised positiivsetest tulemustrendidest, kuigi hindajad märkasid andmete kogumise lünki.
Algoritmid ei ole neutraalsed
Hindajad tõstatasid ka muresid kasvava autoriteedi üle, mida antakse algoritmiliste tulemuste kasutamisele. Juhtpaneelid, automaatseid aruandeid ja AI-põhiseid analüüse käsitletakse sageli kui tõelist pilti. Seda juhtub isegi siis, kui need on vastuolus väljakohapealse teadmise või kontekstuaalse arusaamaga.
Näiteks võivad juhtpaneelid näidata, et eesmärk on rajal. Kuid ühe külastuse näitel võivad hindajad avastada puudusi või rahulolematust.
Mitu osalejat teatasid survet, mida nad tundsid rahastajate või institutsioonide poolt, et nad tugineksid numbrite analüüsis.
Kuid algoritmid peegeldavad nende disainis sisalduvaid eeldusi, andmekogumeid ja prioriteete. Kritiseerimatult rakendades võivad nad reprodukteerida eelarvamusi, lihtsustada ülemäära sotsiaalseid dünaamikaid ja ignoreerida kvalitatiivset teadmist.
Kui digitaalsed süsteemid dikteerivad, kuidas andmeid tuleb koguda, analüüsida ja aru anda, riskivad hindajad muutuda tehnikuteks, mitte sõltumatuteks professionaalideks, kes teevad objektiivseid otsuseid.
Miks Aafrikas on vaja kontekstitundlikku eetikat
Kogu Aafrikas võtavad riiklikud strateegiad ja poliitikad digitaalsete tehnoloogiate osas tihtipeale suuresti eeskuju rahvusvahelistelt raamistikelt. Need on välja töötatud väga erinevates kontekstides. Globaalsed põhimõtted AI-eetika ja andmete juhtimise kohta pakuvad kasulikke viitepunkte. Kuid need ei kata adekvaatselt ebavõrdsuse, ajaloolise umbusalduse ja ebaühtlase digitaalse juurdepääsu reaalsusi, millega paljud Aafrika avalik sektor kokku puutub.
Minu uuring väidab, et digitaalse hindamise eetiline juhtimine peab olema kontekstitundlik. Standardid peavad käsitlema:
- mitte kuidas nõusolek saadakse,
- kes omab hindamisandmeid,
- milliseid algoritmilisi tööriistu valitakse ja audititakse,
- milliseid meetmeid rakendatakse hindajate sõltumatuse kaitseks.
Eetilised raamistikud tuleb integreerida digitaalsete süsteemide projekteerimise faasis.
Lesedi Senamele Matlala, vanemlektor ja uurija avaliku poliitika, monitooringu ja hindamise alal, Johannesburgi Ülikool
Seda artiklit on The Conversationist ümber avaldatud Creative Commons litsentsi alusel. Loe originaalartiklit.
