การตรวจสอบดิจิทัลกำลังเติบโตในภาครัฐของแอฟริกาใต้ – กฎระเบียบจำเป็นต้องปรับตาม

หน่วยงานรัฐบาลทั่วแอฟริกาใต้กำลังพึ่งพาเครื่องมือดิจิทัลมากขึ้นเพื่อประเมินโครงการสาธารณะและติดตามผลการดำเนินงาน นี่เป็นส่วนหนึ่งของการปฏิรูปภาครัฐในวงกว้าง โดยมีเป้าหมายเพื่อปรับปรุงความรับผิดชอบ ตอบสนองต่อแรงกดดันจากการตรวจสอบบัญชี และจัดการโครงการขนาดใหญ่ด้วยบุคลากรและงบประมาณที่จำกัด

นี่คือตัวอย่าง หน่วยงานระดับชาติที่ติดตามการส่งมอบที่อยู่อาศัย เงินช่วยเหลือสังคม หรือการขยายโครงสร้างพื้นฐาน พึ่งพาระบบประสิทธิภาพดิจิทัลแทนรายงานตามรอบเวลาที่ใช้กระดาษ แดชบอร์ด – วิธีการแสดงข้อมูลภาพในที่เดียว – ให้การอัปเดตการให้บริการแบบเกือบเรียลไทม์

อีกตัวอย่างหนึ่งคือการใช้แพลตฟอร์มที่เก็บรวบรวมข้อมูลมือถือ ซึ่งช่วยให้เจ้าหน้าที่แนวหน้าและผู้รับเหมาสามารถอัปโหลดข้อมูลโดยตรงจากภาคสนาม

ทั้งสองตัวอย่างเหมาะสมกับการใช้ปัญญาประดิษฐ์ (AI) เพื่อประมวลผลชุดข้อมูลขนาดใหญ่และสร้างข้อมูลเชิงลึกที่ก่อนหน้านี้จะใช้เวลาหลายเดือนในการวิเคราะห์

การเปลี่ยนแปลงนี้มักถูกนำเสนอว่าเป็นก้าวไปข้างหน้าสำหรับความรับผิดชอบและประสิทธิภาพในภาครัฐ

ฉันเป็นนักวิชาการด้านนโยบายสาธารณะที่มีความสนใจพิเศษในการติดตามและประเมินผลโครงการของรัฐบาล งานวิจัยล่าสุดของฉันแสดงให้เห็นแนวโน้มที่น่ากังวล คือการหันไปใช้เทคโนโลยีกำลังดำเนินไปเร็วกว่ากรอบจริยธรรมและการกำกับดูแลที่มีไว้เพื่อควบคุมมัน

จากกรณีศึกษาที่ฉันตรวจสอบ เครื่องมือดิจิทัลถูกฝังอยู่ในกระบวนการติดตามและประเมินผลเป็นประจำอยู่แล้ว แต่ไม่มีมาตรฐานที่ชัดเจนในการแนะนำการใช้งาน

สิ่งนี้นำเสนอความเสี่ยงเกี่ยวกับการเฝ้าระวัง การกีดกัน การใช้ข้อมูลในทางที่ผิด และการตัดสินใจทางวิชาชีพที่ไม่ดี ความเสี่ยงเหล่านี้ไม่ใช่เรื่องนามธรรม พวกมันกำหนดรูปแบบว่าพลเมืองมีประสบการณ์กับรัฐอย่างไร ข้อมูลของพวกเขาถูกจัดการอย่างไร และเสียงของใครที่นับในที่สุดในการตัดสินใจเกี่ยวกับนโยบาย

เมื่อเทคโนโลยีแซงหน้านโยบาย

การประเมินภาครัฐเกี่ยวข้องกับการประเมินโครงการและนโยบายของรัฐบาล มันกำหนดว่า:

• ทรัพยากรสาธารณะถูกใช้อย่างมีประสิทธิภาพหรือไม่
• โครงการบรรลุผลลัพธ์ที่ตั้งใจไว้หรือไม่
• พลเมืองสามารถถือรัฐให้รับผิดชอบต่อผลการดำเนินงานได้หรือไม่

ตามประเพณี การประเมินเหล่านี้อาศัยการมีส่วนร่วมแบบเห็นหน้ากันระหว่างชุมชน ผู้ประเมิน รัฐบาล และอื่นๆ รวมถึงวิธีการเชิงคุณภาพที่ให้ความละเอียดอ่อน คำอธิบาย และการสร้างความไว้วางใจ

เครื่องมือดิจิทัลได้เปลี่ยนแปลงสิ่งนี้

ในงานวิจัยของฉัน ฉันสัมภาษณ์ผู้ประเมินจากรัฐบาล องค์กรพัฒนาเอกชน วงการวิชาการ สมาคมวิชาชีพ และที่ปรึกษาเอกชน ฉันพบความกังวลที่สอดคล้องกันทั่วทุกกลุ่ม ระบบดิจิทัลมักถูกนำมาใช้โดยไม่มีแนวทางจริยธรรมที่เหมาะสมกับการปฏิบัติการประเมินผล

แนวทางจริยธรรมจะให้กฎที่ชัดเจนและปฏิบัติได้สำหรับวิธีการใช้เครื่องมือดิจิทัลในการประเมินผล ตัวอย่างเช่น เมื่อใช้แดชบอร์ดหรือการวิเคราะห์ข้อมูลอัตโนมัติ แนวทางควรกำหนดให้ผู้ประเมินอธิบายว่าข้อมูลถูกสร้างขึ้นอย่างไร ใครมีสิทธิ์เข้าถึง และผลการค้นพบอาจส่งผลต่อชุมชนที่กำลังถูกประเมินอย่างไร นอกจากนี้ควรป้องกันการใช้ระบบดิจิทัลเพื่อติดตามบุคคลโดยไม่ได้รับความยินยอม หรือจัดอันดับโครงการในลักษณะที่เพิกเฉยต่อบริบท

พระราชบัญญัติคุ้มครองข้อมูลส่วนบุคคลของแอฟริกาใต้ให้กรอบกฎหมายทั่วไปสำหรับการคุ้มครองข้อมูล แต่ไม่ได้กล่าวถึงปัญหาทางจริยธรรมเฉพาะที่เกิดขึ้นเมื่อการประเมินผลกลายเป็นอัตโนมัติ ใช้คลาวด์ และใช้อัลกอริทึมเป็นตัวกลาง

ผลที่ได้คือผู้ประเมินมักถูกทิ้งให้นำทางภูมิประเทศทางจริยธรรมที่ซับซ้อนโดยไม่มีมาตรฐานที่ชัดเจน สิ่งนี้บังคับให้สถาบันต้องพึ่งพาแบบอย่าง นิสัยที่ไม่เป็นทางการ แนวปฏิบัติในอดีต และค่าเริ่มต้นของซอฟต์แวร์

การคืบคลานของการเฝ้าระวังและการใช้ข้อมูลในทางที่ผิด

แพลตฟอร์มดิจิทัลทำให้สามารถเก็บรวบรวมข้อมูลจำนวนมากได้ เมื่อข้อมูลถูกอัปโหลดไปยังระบบคลาวด์หรือแพลตฟอร์มของบุคคลที่สาม การควบคุมการจัดเก็บ การใช้ซ้ำ และการแชร์มักจะเปลี่ยนจากผู้ประเมินไปยังผู้อื่น

ผู้ประเมินหลายคนอธิบายสถานการณ์ที่ข้อมูลที่พวกเขาเก็บรวบรวมในนามของหน่วยงานรัฐบาลถูกนำกลับมาใช้ใหม่โดยหน่วยงานหรือหน่วยงานของรัฐอื่นๆ ในภายหลัง สิ่งนี้ทำโดยไม่มีการรับรู้อย่างชัดเจนของผู้เข้าร่วม กระบวนการขอความยินยอมในสภาพแวดล้อมดิจิทัลมักถูกลดลงเหลือเพียงการคลิกครั้งเดียว

ตัวอย่างของการใช้งานอื่นๆ รวมถึงรูปแบบอื่นๆ ของการวิเคราะห์ การรายงาน หรือการติดตามสถาบัน

หนึ่งในความเสี่ยงทางจริยธรรมที่เกิดขึ้นจากการวิจัยคือการใช้ข้อมูลนี้เพื่อการเฝ้าระวัง นี่คือการใช้ข้อมูลเพื่อติดตามบุคคล ชุมชน หรือพนักงานแนวหน้า

การกีดกันทางดิจิทัลและเสียงที่มองไม่เห็น

เครื่องมือประเมินดิจิทัลมักถูกนำเสนอว่าขยายการเข้าถึงและการมีส่วนร่วม แต่ในทางปฏิบัติ พวกมันสามารถกีดกันกลุ่มที่ด้อยโอกาสอยู่แล้ว ชุมชนที่มีการเข้าถึงอินเทอร์เน็ตจำกัด ความรู้ด้านดิจิทัลต่ำ อุปสรรคทางภาษา หรือโครงสร้างพื้นฐานที่ไม่น่าเชื่อถือมีแนวโน้มที่จะเข้าร่วมในการประเมินดิจิทัลได้เต็มที่น้อยลง

เครื่องมืออัตโนมัติมีข้อจำกัด ตัวอย่างเช่น พวกมันอาจมีปัญหาในการประมวลผลข้อมูลหลายภาษา สำเนียงท้องถิ่น หรือรูปแบบการแสดงออกเฉพาะทางวัฒนธรรม สิ่งนี้นำไปสู่การแสดงประสบการณ์ชีวิตที่ไม่สมบูรณ์หรือบิดเบือน ผู้ประเมินในการศึกษาของฉันเห็นสิ่งนี้เกิดขึ้นในทางปฏิบัติ

การกีดกันนี้มีผลร้ายแรงโดยเฉพาะอย่างยิ่งในประเทศที่มีความไม่เท่าเทียมกันเช่นแอฟริกาใต้ การประเมินที่พึ่งพาเครื่องมือดิจิทัลอย่างมากอาจพบประชากรในเมืองที่เชื่อมต่อกัน และทำให้ชุมชนชนบทหรือชุมชนนอกระบบมองไม่เห็นทางสStatistics

นี่ไม่ใช่เพียงข้อจำกัดทางเทคนิค มันกำหนดรูปแบบว่าความต้องการใดได้รับการยอมรับและประสบการณ์ของใครที่ให้ข้อมูลในการตัดสินใจเกี่ยวกับนโยบาย หากข้อมูลการประเมินแสดงกลุ่มที่เปราะบางที่สุดไม่เพียงพอ โครงการสาธารณะอาจดูมีประสิทธิภาพมากกว่าที่เป็นจริง สิ่งนี้ปิดบังความล้มเหลวเชิงโครงสร้างมากกว่าจะแก้ไขพวกมัน

ในการศึกษาของฉัน การประเมินบางส่วนรายงานแนวโน้มผลการดำเนินงานเชิงบวกแม้ว่าผู้ประเมินจะสังเกตเห็นช่องว่างในการเก็บรวบรวมข้อมูล

อัลกอริทึมไม่เป็นกลาง

ผู้ประเมินยังแสดงความกังวลเกี่ยวกับอำนาจที่เพิ่มขึ้นที่ให้กับผลลัพธ์ของอัลกอริทึม แดชบอร์ด รายงานอัตโนมัติ และการวิเคราะห์ที่ขับเคลื่อนด้วย AI มักถูกปฏิบัติเหมือนภาพที่แท้จริง สิ่งนี้เกิดขึ้นแม้เมื่อพวกมันขัดแย้งกับความรู้จากภาคสนามหรือความเข้าใจบริบท

ตัวอย่างเช่น แดชบอร์ดอาจแสดงเป้าหมายว่าอยู่ในเป้า แต่ในตัวอย่างของการเยี่ยมชมสถานที่ ผู้ประเมินอาจพบข้อบกพร่องหรือความไม่พอใจ

ผู้เข้าร่วมหลายคนรายงานแรงกดดันจากผู้ให้ทุนหรือสถาบันให้พึ่งพาการวิเคราะห์ตัวเลข

แต่อัลกอริทึมสะท้อนสมมติฐาน ชุดข้อมูล และลำดับความสำคัญที่ฝังอยู่ในการออกแบบของพวกมัน เมื่อนำไปใช้โดยไม่มีการวิจารณ์ พวกมันสามารถทำซ้ำอคติ ทำให้พลวัตทางสังคมง่ายเกินไป และเพิกเฉยข้อมูลเชิงคุณภาพ

หากระบบดิจิทัลกำหนดวิธีการเก็บรวบรวม วิเคราะห์ และรายงานข้อมูล ผู้ประเมินมีความเสี่ยงที่จะกลายเป็นช่างเทคนิคและไม่ใช่ผู้เชี่ยวชาญอิสระที่ใช้ดุลยพินิจ

เหตุใดแอฟริกาจึงต้องการจริยธรรมที่คำนึงถึงบริบท

ทั่วแอฟริกา กลยุทธ์และนโยบายระดับชาติเกี่ยวกับเทคโนโลยีดิจิทัลมักยืมมาจากกรอบงานระหว่างประเทศอย่างหนัก ซึ่งได้รับการพัฒนาในบริบทที่แตกต่างกันมาก หลักการระดับโลกเกี่ยวกับจริยธรรม AI และการกำกับดูแลข้อมูลให้จุดอ้างอิงที่เป็นประโยชน์ แต่พวกมันไม่ได้จัดการกับความเป็นจริงของความไม่เท่าเทียม ความไม่ไว้วางใจทางประวัติศาสตร์ และการเข้าถึงดิจิทัลที่ไม่สม่ำเสมอทั่วภาครัฐส่วนใหญ่ของแอฟริกาอย่างเพียงพอ

งานวิจัยของฉันแย้งว่าการกำกับดูแลจริยธรรมสำหรับการประเมินดิจิทัลจะต้องคำนึงถึงบริบท มาตรฐานต้องจัดการกับ:

• วิธีการขอความยินยอม
• ใครเป็นเจ้าของข้อมูลการประเมิน
• วิธีการเลือกและตรวจสอบเครื่องมืออัลกอริทึม
• วิธีการปกป้องความเป็นอิสระของผู้ประเมิน

กรอบจริยธรรมต้องฝังอยู่ในขั้นตอนการออกแบบของระบบดิจิทัล

Lesedi Senamele Matlala อาจารย์อาวุโสและนักวิจัยด้านนโยบายสาธารณะ การติดตามและการประเมินผล มหาวิทยาลัยโจฮันเนสเบิร์ก

บทความนี้ถูกตีพิมพ์ซ้ำจาก The Conversation ภายใต้ใบอนุญาต Creative Commons อ่านบทความต้นฉบับ