คณะกรรมการ UN ระบุโอกาสเร่งด่วนและความเสี่ยงของ AI ในรายงานเบื้องต้น

มะนิลา ฟิลิปปินส์ – คณะผู้เชี่ยวชาญทางวิทยาศาสตร์นานาชาติอิสระด้านปัญญาประดิษฐ์แห่งสหประชาชาติ เผยแพร่รายงานเบื้องต้นฉบับแรกของโลก ที่ประเมินโอกาส ความเสี่ยง และผลกระทบที่เร่งด่วนที่สุดของ AI

คณะผู้เชี่ยวชาญซึ่งประกอบด้วยสมาชิก 40 คน และมี Yoshua Bengio จากแคนาดา และ Maria Ressa จากฟิลิปปินส์ เป็นประธานร่วม มุ่งหวัง "นำเสนอการวิเคราะห์ที่สมดุล" เกี่ยวกับความเสี่ยงและโอกาสของ AI และมีเป้าหมายเพื่อมอบฐานความรู้และหลักฐานร่วมกันแก่ผู้กำหนดนโยบาย เพื่อให้สามารถตอบสนองได้อย่างมีประสิทธิภาพและทันท่วงที

"เทคโนโลยีนี้มีพลังในการเปลี่ยนแปลง แต่หากโลกยังคงเดินหน้าตามเส้นทางนี้ มนุษยชาติจะไม่สามารถบรรลุผลประโยชน์ที่มันสัญญาไว้ได้ ความเสี่ยง — ต่อสังคม ต่อความมั่นคง และต่อเผ่าพันธุ์ของเรา — สูงเกินไป และแรงขับเคลื่อน AI ไปข้างหน้านั้นไม่ใช่แรงที่จะนำประโยชน์มาสู่ทุกคน" Ressa กล่าว

"ขีดความสามารถของ AI กำลังแซงหน้าทั้งความเข้าใจทางวิทยาศาสตร์และความสามารถในการปรับตัวของรัฐบาล ด้วยหลักฐานที่เพิ่มขึ้นเรื่อยๆ เกี่ยวกับพฤติกรรมหลอกลวงของ AI วิทยาศาสตร์ในปัจจุบันไม่สามารถรับประกันได้ว่าเมื่อขีดความสามารถเพิ่มขึ้นอย่างต่อเนื่อง AI จะไม่ก่อให้เกิดอันตรายร้ายแรง ไม่ว่าจะด้วยตัวเองหรือจากผู้ใช้ที่มีเจตนาร้าย เพื่อดำเนินการอย่างมีประสิทธิภาพ ผู้กำหนดนโยบายระดับโลกต้องเข้าใจระบบเหล่านี้ คณะผู้เชี่ยวชาญนี้ให้สิ่งนั้นอย่างแท้จริง: รากฐานทางวิทยาศาสตร์ที่เข้มงวดและเป็นที่ยอมรับร่วมกัน เพื่อนำทางเส้นทางข้างหน้าของเราร่วมกัน" Bengio กล่าวเสริม

ในบทสรุปผู้บริหารของรายงาน คณะผู้เชี่ยวชาญเขียนว่า "หากนำไปใช้งานและประยุกต์ใช้อย่างรอบคอบ AI สามารถสนับสนุนความก้าวหน้าในการบรรลุเป้าหมายการพัฒนาที่ยั่งยืน ส่งเสริมวิทยาศาสตร์สุขภาพ และเพิ่มการเข้าถึงการศึกษา"

"ในขณะเดียวกัน ความเร็วของการพัฒนาเทคโนโลยีและความกว้างของการประยุกต์ใช้ที่เป็นไปได้ก็นำเสนอความท้าทายอย่างมีนัยสำคัญแก่ผู้กำหนดนโยบาย การนำเทคโนโลยีไปใช้งานอย่างรวดเร็วและไม่มีการตรวจสอบในวงกว้างยังก่อให้เกิดความเสี่ยงอย่างมาก รวมถึงอันตรายต่อสุขภาพจิตของผู้ใช้ การใช้เป็นเครื่องมือทำลายล้าง ผลกระทบต่อระบบสังคม เศรษฐกิจ และสิ่งแวดล้อม และความท้าทายที่เกี่ยวข้องกับการควบคุมเทคโนโลยี" คณะผู้เชี่ยวชาญกล่าวเสริม

ความสำคัญของคณะผู้เชี่ยวชาญ

คณะผู้เชี่ยวชาญนิยามระบบ AI ว่าเป็น "ระบบเครื่องจักรที่โดยทั่วไปแล้วสามารถรับรู้ เรียนรู้ และดำเนินการ โดยอนุมานจากข้อมูลนำเข้าเพื่อสร้างผลลัพธ์ เช่น การคาดการณ์ เนื้อหา คำแนะนำ การกระทำ หรือการตัดสินใจ ด้วยระดับความเป็นอิสระและความสามารถในการปรับตัวที่แตกต่างกัน"

คณะผู้เชี่ยวชาญกล่าวว่าการวิเคราะห์ของตนอยู่ในตำแหน่งที่โดดเด่นด้วยเหตุผลสามประการ

ประการแรก ดำเนินการจากหลักการที่ว่าสหประชาชาติเป็นเวทีระดับโลกชั้นนำสำหรับความเสี่ยงข้ามพรมแดนในระดับโลก

ประการที่สอง คณะผู้เชี่ยวชาญเป็นกลไกของสหประชาชาติที่มีอำนาจหน้าที่ในการประเมินสถานะ ความเสี่ยง และขีดความสามารถของ AI ทางวิทยาศาสตร์

สุดท้าย คณะผู้เชี่ยวชาญระบุว่ามีอำนาจหน้าที่ทางวิทยาศาสตร์ ไม่ใช่การเมือง: "เพื่อบันทึกหลักฐานทางวิทยาศาสตร์ ฉันทามติและความขัดแย้ง และช่องว่างความรู้ใดที่ยังคงเร่งด่วนต้องแก้ไข" ด้วยการมอบฐานหลักฐานที่รัฐบาลและสถาบันต้องการเพื่อดำเนินการในระยะยาว คำแนะนำของคณะผู้เชี่ยวชาญจึงยังคงเกี่ยวข้องกับนโยบายแต่ไม่ได้กำหนดนโยบาย

"ลักษณะทางวิทยาศาสตร์นี้ควรทำให้ผลการค้นพบสามารถเปรียบเทียบได้ในทุกภูมิภาคและมีความยืดหยุ่นต่อวัฏจักรทางการเมือง" คณะผู้เชี่ยวชาญกล่าวเสริม

สิ่งที่คณะผู้เชี่ยวชาญมองเห็นและช่องว่างที่มีอยู่

ส่วนที่สองของรายงานกล่าวถึงสิ่งที่หลักฐานแสดงให้เห็นเกี่ยวกับ AI และคณะผู้เชี่ยวชาญได้สรุปข้อความต่อไปนี้เกี่ยวกับ AI โดยมีตัวอย่างและคำอธิบายเพิ่มเติมสนับสนุน:

• ขีดความสามารถของปัญญาประดิษฐ์กำลังก้าวหน้าเร็วกว่าความสามารถในการวัดหรือกำกับดูแล
• มีเพียงผู้เล่นไม่กี่รายที่ฝึกโมเดลปัญญาประดิษฐ์ระดับแนวหน้า
• ข้อมูลนำเข้าและผลลัพธ์ของปัญญาประดิษฐ์มีความไม่สม่ำเสมอทางภูมิศาสตร์และภาษา
• ช่องว่างด้านปัญญาประดิษฐ์ไม่ได้เกี่ยวกับการเข้าถึงเท่านั้น แต่ยังเกี่ยวกับความสามารถในการมีอิทธิพลต่อการพัฒนาปัญญาประดิษฐ์
• เพื่อให้ปัญญาประดิษฐ์มีประโยชน์ จำเป็นต้องได้รับการสนับสนุนจากสภาพแวดล้อมที่เอื้ออำนวย
• ปัญญาประดิษฐ์แบบ Agentic เป็นการเปลี่ยนแปลงขั้นก้าวในการกำกับดูแล (ในแง่ของโอกาสและความเสี่ยง)
• ปัญญาประดิษฐ์สามารถกัดเซาะความเป็นจริงร่วมกัน
• ปัญญาประดิษฐ์กำลังเปลี่ยนแปลงสิทธิมนุษยชน รวมถึงสิทธิของเด็ก

ส่วนที่สามระบุโอกาสและความเสี่ยงที่อาจเกิดขึ้นในโดเมนความรู้ต่างๆ

โดยทั่วไป คณะผู้เชี่ยวชาญสังเกตว่า AI "ได้เปลี่ยนจากการรู้จำรูปแบบแบบพาสซีฟไปสู่การใช้เหตุผลเชิงรุกและการดำเนินการอิสระ สาขานี้กำลังก้าวหน้าอย่างรวดเร็วจากโมเดลการใช้เหตุผลในปัจจุบันไปสู่เครือข่าย agentic ที่ประสานงานกัน และในที่สุดคือระบบที่ปรับปรุงตัวเอง"

คณะผู้เชี่ยวชาญเสริมว่าการเข้าถึง AI ไม่ได้สร้างประโยชน์โดยอัตโนมัติ แต่กล่าวว่า "AI ที่สร้างขึ้นเพื่อวัตถุประสงค์เฉพาะและงานเฉพาะกำลังให้ผลลัพธ์ที่วัดได้และมีหลักฐานสนับสนุนในด้านวิทยาศาสตร์ สุขภาพ การศึกษา และเกษตรกรรม ผลลัพธ์เหล่านี้เป็นจริงแต่มีเงื่อนไข: ขึ้นอยู่กับการปรับบริบทในท้องถิ่น โครงสร้างพื้นฐานที่เพียงพอ และการเตรียมความพร้อมของมนุษย์"

นอกจากนี้ AI สามารถใช้ในทางบวกได้ แต่ผลประโยชน์จากการใช้ AI ไม่ได้เกิดขึ้นโดยอัตโนมัติ ในแง่ของผลประโยชน์ทางเศรษฐกิจ คณะผู้เชี่ยวชาญกล่าวว่า "ผลประโยชน์ด้านผลิตภาพต้องการการลงทุนเสริมในทักษะ ข้อมูล และการออกแบบองค์กรใหม่"

คณะผู้เชี่ยวชาญเสริมว่า "คำถามหลักที่ยังไม่ได้รับการแก้ไขคือเรื่องการกระจาย: ใครได้รับส่วนเกิน และเกิดอะไรขึ้นกับแรงงาน เศรษฐกิจกำลังพัฒนา และกรอบกฎระเบียบที่สร้างขึ้นสำหรับยุคที่แตกต่างกันในอุตสาหกรรมต่างๆ?"

ในแง่ของความมั่นคงระดับโลก คณะผู้เชี่ยวชาญยังสังเกตว่า "AI สามารถเปิดใช้งานการปฏิบัติการที่เป็นอันตราย กลายเป็นเป้าหมายของการโจมตี และขยายภัยคุกคามที่มีอยู่" ซึ่งรวมถึงภัยคุกคามด้านความปลอดภัยทางไซเบอร์ แต่คณะผู้เชี่ยวชาญยังสังเกตว่าผลกระทบต่อสิ่งแวดล้อม "กำลังเพิ่มขึ้นอย่างมีนัยสำคัญ"

คณะผู้เชี่ยวชาญยังกล่าวว่า AI กำลัง "เปลี่ยนแปลงสิทธิมนุษยชน ประชาธิปไตย และระบบนิเวศข้อมูลผ่านการเปลี่ยนแปลงระดับระบบที่สร้างทั้งโอกาสที่สำคัญและความเสี่ยงเชิงโครงสร้างต่อความสมบูรณ์ของข้อมูลและการมีส่วนร่วมของพลเมือง" หากความเสี่ยงเหล่านี้ไม่ได้รับการแก้ไข คณะผู้เชี่ยวชาญกล่าวว่าความสามารถของสังคมในการเก็บเกี่ยวประโยชน์จาก AI จะถูกบ่อนทำลาย

คณะผู้เชี่ยวชาญเสริมว่า น่าเสียดายที่มีหลักฐานอยู่แล้วว่าสถาบันต่างๆ ใช้ขีดความสามารถของ AI เป็นตัวเร่งหรือภัยคุกคามต่อสิทธิมนุษยชน เช่น เสรีภาพในการแสดงออก การเข้าถึงข้อมูล ความยุติธรรม สุขภาพและการพัฒนา และสิทธิมนุษยชนอื่นๆ

ส่วนที่สามสิ้นสุดด้วยการระบุว่าผู้กำหนดนโยบายกำลังเผชิญกับภาวะกลืนไม่เข้าคายไม่ออกด้านหลักฐาน ซึ่งพวกเขาอาจตัดสินใจว่า AI ควรได้รับการกำกับดูแลอย่างไรโดยมีพื้นฐานทางวิทยาศาสตร์ไม่เพียงพอในตอนนี้ หรือรอหลักฐาน ซึ่งอาจมาสายเกินไปสำหรับการแทรกแซงที่คุ้มค่า

ในขณะเดียวกัน ส่วนที่สี่ของรายงานได้ระบุช่องว่างทางวิทยาศาสตร์ — ที่ซึ่งฐานหลักฐานในบางแง่มุมของ AI ยังคงไม่สม่ำเสมอหรือไม่เพียงพอ ทำให้คณะผู้เชี่ยวชาญกล่าวว่ายังไม่สามารถสรุปผลทางวิทยาศาสตร์ที่มั่นใจได้ในด้านเหล่านี้

ซึ่งรวมถึงหลักฐานที่ยังไม่สรุปได้เกี่ยวกับผลกระทบทางเศรษฐกิจมหภาคและผลิตภาพจากการนำ AI มาใช้ แง่มุมด้านสิ่งแวดล้อมของการนำ AI มาใช้ ห่วงโซ่อุปทาน AI ระดับโลก และผลกระทบในระดับบุคคลและส่วนรวม รวมถึงช่องว่างอื่นๆ

คณะผู้เชี่ยวชาญเสริมว่าขอบเขตของรายงานเบื้องต้นไม่ได้ครอบคลุมการประยุกต์ใช้ AI ทางทหารและระบบอาวุธอัตโนมัติที่ร้ายแรง

สำเนาฉบับเต็มของรายงาน พร้อมด้วยบทสรุปผู้บริหาร มีให้บริการในหน้านี้ – Rappler.com