ภายในปี 2030 คำถามจะไม่ใช่ 'คุณมีเงินไหม?' อีกต่อไป แต่จะเป็น 'คุณได้รับการอนุมัติจาก AI หรือเปล่า?'

ฉันใช้เวลาหลายปีสังเกตวิธีที่ผู้คนจัดการกับเงิน และมันทำให้ฉันสั่นสะเทือนอย่างแท้จริงเมื่อเห็นกลไกเงียบที่กำลังตัดสินว่าใครจะได้มีส่วนร่วมในชีวิตทางเศรษฐกิจ

เมื่อไม่กี่เดือนก่อน เพื่อนร่วมงานของฉัน ซึ่งเป็นคนที่ฉันรู้จักมากกว่าสิบปี มีรายได้มั่นคง ไม่มีหนี้สิน และมีนิสัยออมเงินที่ทำให้นักวางแผนการเงินส่วนใหญ่ภาคภูมิใจ กลับถูกปฏิเสธวงเงินสินเชื่อ ไม่มีคำอธิบาย ไม่มีจดหมายส่งมา มีแค่หน้าจอที่บอกว่าขณะนี้ไม่สามารถดำเนินการคำขอได้

เขาโทรหาผู้ให้กู้ พวกเขาบอกว่าการตัดสินใจนั้นทำโดยเครื่องจักร เขาถามว่าอะไรเป็นตัวกระตุ้น พวกเขาบอกว่าไม่สามารถเปิดเผยข้อมูลนั้นได้ เขาถามว่าสามารถพูดคุยกับใครสักคนที่จะตรวจสอบด้วยตนเองได้ไหม และมีความเงียบสักครู่ ก่อนที่จะมีคำขอโทษแบบสำเร็จรูปตามมา

บทสนทนานั้นยังคงอยู่ในความทรงจำของฉัน ไม่ใช่เพราะผลลัพธ์นั้นเลวร้าย เขาไม่เป็นไร และไม่ได้ต้องการสินเชื่ออย่างเร่งด่วน แต่เพราะสิ่งที่มันเปิดเผยเกี่ยวกับโลกที่เราอาศัยอยู่แล้ว เครื่องจักรได้มองเขา ตัดสินใจบางอย่าง และไม่มีมนุษย์คนใดเหลืออยู่ในห่วงโซ่ที่จะบอกเขาได้ว่ามันเห็นอะไร

ฉันนึกถึงบทสนทนานั้นบ่อยครั้งเมื่อนึกถึงว่าปี 2030 จะเป็นอย่างไร ฉันคิดว่าคำถามที่คนส่วนใหญ่ยังไม่ถามดังพอก็คือ เมื่อ AI กลายเป็นผู้ควบคุมการเข้าถึงทางการเงิน เราจะยอมมอบอะไรไปกันแน่?

ระบบที่เข้ามาแทนที่เจ้าหน้าที่สินเชื่อ

ฉันเติบโตมาโดยเห็นพ่อเจรจากับผู้จัดการธนาคาร มันไม่ใช่กระบวนการที่เป็นทางการ ผู้จัดการถามคำถาม ตั้งสมมติฐาน และทั้งหมดนั้นมีกลิ่นอายของอคติที่ไม่มีใครพูดออกมาตรงๆ ระบบนั้นมีข้อบกพร่อง และฉันก็ไม่ได้คิดถึงมันด้วยความโหยหา

แต่มันมีสิ่งหนึ่งที่เส้นทางปัจจุบันกำลังค่อยๆ ลบออกไป นั่นคือมนุษย์ที่สามารถถูกตั้งคำถามได้ ที่แบกรับความรับผิดชอบ และที่อยู่ในห้องเดียวกับผลลัพธ์ของการตัดสินใจของตน

ตลอดประวัติศาสตร์ส่วนใหญ่ ความน่าเชื่อถือทางเครดิตถูกประเมินผ่านสิ่งต่างๆ เพียงไม่กี่อย่าง เช่น รายได้ การจ้างงาน หนี้สินที่มีอยู่ และประวัติการชำระหนี้ บริษัทข้อมูลเครดิตแปลงสิ่งเหล่านั้นให้เป็นคะแนน คะแนนเหล่านั้นหยาบและมักไม่ยุติธรรม แต่อย่างน้อยก็เข้าใจได้ง่าย คุณสามารถเข้าใจได้ว่ามันวัดอะไร คุณสามารถโต้แย้งข้อผิดพลาดได้ และเมื่อเวลาผ่านไปก็สามารถเปลี่ยนแปลงตัวเลขได้

สิ่งที่ฉันสังเกตเห็นในช่วงหลายปีที่ผ่านมาคือการเปลี่ยนแปลงอย่างพื้นฐานจากความเรียบง่ายนั้น ขณะนี้โมเดลการเรียนรู้ของเครื่องกำลังประมวลผลสัญญาณนับพันพร้อมกันเพื่อประเมินความเสี่ยงทางการเงิน ไม่ใช่แค่ประวัติการชำระเงินของคุณ แต่รวมถึงวิธีที่คุณพิมพ์ในแบบฟอร์ม ระยะเวลาที่เคอร์เซอร์วางนิ่งก่อนที่คุณจะส่ง แอปพลิเคชันใดที่ติดตั้งบนโทรศัพท์ของคุณ และว่าจังหวะชีวิตของคุณตรงกับจังหวะของคนที่โมเดลเรียนรู้ที่จะไว้วางใจหรือไม่

สัญญาณเหล่านี้ฟังดูเกือบจะไร้สาระเมื่อพูดถึงทีละอย่าง แต่เมื่อรวมกันแล้วกำลังสร้างการตัดสินใจที่กำหนดว่าใครสามารถกู้เงิน เช่าอพาร์ตเมนต์ ทำประกัน หรือได้งานทำ และผู้คนที่ได้รับผลกระทบจากการตัดสินใจเหล่านั้นมักไม่รู้เลยว่าสัญญาณแต่ละอย่างมีน้ำหนักเท่าใด

ตัวตนที่คุณไม่รู้ว่ากำลังสร้างขึ้น

นี่คือส่วนที่ฉันพบว่ายากจริงๆ ที่จะยอมรับ นั่นคือตัวตนทางการเงินที่ระบบเหล่านี้กำลังอ่านไม่ใช่ตัวตนที่คุณสร้างขึ้นอย่างมีสติ แต่เป็นตัวตนที่คุณปล่อยออกมาตลอดหลายปีผ่านพฤติกรรมดิจิทัล

คุณไม่ได้ตัดสินใจว่าแอปบนโทรศัพท์ของคุณจะบอกอะไรเกี่ยวกับความน่าเชื่อถือทางเครดิตของคุณ คุณไม่รู้ว่าช่วงเวลาของวันที่คุณมักส่งแบบฟอร์มถูกบันทึกและเชื่อมโยงกับรูปแบบการชำระหนี้ คุณไม่ได้ลงนามในข้อตกลงที่ระบุว่าเครือข่ายสังคมที่เชื่อมโยงคุณกับผู้ติดต่อของคุณจะถูกใช้เพื่อประเมินโปรไฟล์ความเสี่ยงของคุณ

นั่นคือสถาปัตยกรรมที่กำลังถูกประกอบขึ้นทีละชิ้นในบริษัทฟินเทค บริษัทข้อมูลเครดิต และแพลตฟอร์มประกันภัยทั่วโลก ตัวตนที่ระบบอนุมานเกี่ยวกับคุณกำลังถูกสร้างขึ้นจากภาพเหมือนที่คุณนั่งให้โดยไม่รู้ตัว

สิ่งนี้สร้างช่องว่างที่ฉันคิดถึงบ่อยครั้ง มีตัวคุณที่คุณรู้จักตัวเอง นั่นคือคนที่ระมัดระวังเรื่องเงิน ที่มีบริบทสำหรับสิ่งผิดปกติในประวัติทางการเงินของคุณ ที่มีเหตุผลสำหรับทางเลือกที่อาจดูผิดปกติต่ออัลกอริทึม และแล้วก็มีเงาทางสถิติของคุณที่โมเดล AI มองเห็น ทั้งสองสิ่งนั้นไม่ใช่คนเดียวกัน และมากขึ้นเรื่อยๆ ที่เงา ไม่ใช่ตัวบุคคล เป็นตัวกำหนดการเข้าถึง

ฉันได้พูดคุยกับผู้คนที่ถูกปฏิเสธสินเชื่อหลังจากย้ายไปยังเมืองหนึ่ง ไม่ใช่เพราะพฤติกรรมทางการเงินของพวกเขาเปลี่ยนไป แต่เพราะที่อยู่ใหม่ของพวกเขาสัมพันธ์กับอัตราการผิดนัดชำระหนี้ที่สูงกว่าในข้อมูลการฝึก ฉันได้พูดคุยกับฟรีแลนซ์ที่ถูกลงโทษไม่ใช่เพราะวิธีที่พวกเขาจัดการเงิน แต่เพราะรูปแบบรายได้ที่ผันแปรนั้นดูเหมือนความไม่มั่นคงต่อโมเดลที่ฝึกด้วยข้อมูลของพนักงานประจำ ฉันได้พูดคุยกับผู้ใหญ่ที่ถูกตั้งธงไม่ใช่เพราะสิ่งที่พวกเขาทำ แต่เพราะร่องรอยดิจิทัลของพวกเขาบางเกินไปในโลกที่มองความบางเบานั้นว่าน่าสงสัยมากขึ้นเรื่อยๆ

สิ่งที่เกิดขึ้นเมื่อประสิทธิภาพกลายเป็นเป้าหมาย

ฉันต้องการความเป็นธรรมที่นี่ เพราะฉันคิดว่าการสนทนาเกี่ยวกับ AI และการเข้าถึงทางการเงินมักเบี่ยงเบนไปสู่ความกลัวเทคโนโลยีแบบหนึ่งที่ไม่เป็นประโยชน์กับใคร การขยายตัวของการประเมินเครดิตที่ขับเคลื่อนด้วย AI ได้นำประโยชน์มาสู่ผู้คนจริงๆ ผู้ให้กู้ฟินเทคที่ใช้ข้อมูลพฤติกรรมได้ขยายสินเชื่อให้กับบุคคลหลายล้านคนที่ไม่มีประวัติทางการเงินอย่างเป็นทางการและมองไม่เห็นโดยสิ้นเชิงในระบบธนาคารแบบดั้งเดิม นั่นสำคัญ ชีวิตเหล่านั้นเปลี่ยนแปลงไปเพราะระบบสามารถเห็นบางอย่างที่สาขาธนาคารทำไม่ได้

นี่คือความตึงเครียดที่ฉันกลับมาคิดถึงอยู่เสมอ นั่นคือการมีประสิทธิภาพและการมีความยุติธรรมไม่ใช่เป้าหมายเดียวกัน และการมุ่งเน้นอย่างไม่หยุดยั้งในสิ่งหนึ่งไม่ได้นำมาซึ่งอีกสิ่งหนึ่งโดยอัตโนมัติ

โมเดลสามารถแม่นยำอย่างยิ่งในการทำนายการผิดนัดชำระหนี้ทั่วทั้งประชากร ในขณะเดียวกันก็ไม่ยุติธรรมอย่างเป็นโครงสร้างต่อบุคคลในกลุ่มย่อยที่ข้อมูลการฝึกไม่ได้แสดงถึงอย่างเพียงพอ ระบบสามารถเปิดประตูให้กับประชากรบางกลุ่มในขณะที่ปิดประตูต่อกลุ่มอื่นอย่างเงียบเสียง สิ่งเหล่านี้ไม่ใช่ความขัดแย้งที่แก้ไขตัวเองผ่านวิศวกรรม แต่เป็นผลจากทางเลือกที่มักเป็นนัย เกี่ยวกับสิ่งที่โมเดลมุ่งเน้น และประสบการณ์ของใครที่ข้อมูลการฝึกสะท้อน

ผู้คนที่ฉันกังวลมากที่สุดในการเปลี่ยนผ่านนี้คือผู้ที่ระบบเหล่านี้อ่านได้ยากที่สุด ผู้อพยพใหม่ที่มีประวัติดิจิทัล ผู้สูงอายุที่สร้างชีวิตก่อนที่ร่องรอยข้อมูลจะกลายเป็นทุกสิ่ง ผู้คนในพื้นที่ภูมิศาสตร์หรือชุมชนที่ไม่ได้รับการแสดงตัวแทนอย่างเพียงพอในชุดข้อมูลที่ใช้ฝึกโมเดล ผู้คนที่ด้วยเหตุผลอันชอบธรรมมีรูปแบบพฤติกรรมที่ดูผิดปกติต่อระบบที่สร้างขึ้นบนประชากรที่แตกต่างกัน

สำหรับคนเหล่านี้ การตัดสินใจเข้าถึงที่ขับเคลื่อนด้วย AI เสี่ยงที่จะทำหน้าที่เป็นกำแพงมากกว่าประตู ไม่ใช่เพราะพวกเขาเป็นความเสี่ยงในความหมายของมนุษย์ที่มีนัยสำคัญ แต่เพราะระบบไม่สามารถจัดประเภทพวกเขาได้อย่างมั่นใจ และระบบที่ไม่สามารถจัดประเภทได้อย่างมั่นใจมักจะเลือกการกีดกันเป็นค่าเริ่มต้น

ทศวรรษที่เราอยู่จริงๆ

สิ่งที่ฉันคิดว่าถูกประเมินต่ำเกินไปเกี่ยวกับช่วงเวลานี้คือความเร็วที่ระบบเหล่านี้กำลังกลายเป็นรากฐาน นี่ไม่ใช่เทคโนโลยีที่กำลังทดสอบในโปรแกรม มันฝังตัวอยู่ในการให้กู้ยืม ประกันภัย การตรวจสอบผู้เช่า และการประเมินการจ้างงานทั่วโลกแล้ว กฎเกณฑ์ที่ควบคุมมันในบางสถานที่ยังอยู่ไกลเบื้องหลังความเป็นจริงของวิธีที่มันดำเนินการ

ยุโรปได้ดำเนินการไปแล้ว กฎที่นั่นกำหนดข้อกำหนดด้านความโปร่งใสและความสามารถในการอธิบายในการตัดสินใจอัตโนมัติ ข้อกำหนดเหล่านั้นไม่สมบูรณ์ แต่ก็ได้กำหนดหลักการ นั่นคือบุคคลมีสิทธิ์เข้าใจในแง่มุมที่พวกเขาสามารถมีส่วนร่วมได้จริงว่าทำไมระบบอัตโนมัติถึงตัดสินใจที่ส่งผลต่อชีวิตของพวกเขา

หลักการนั้นไม่ได้มีอยู่อย่างสม่ำเสมอที่อื่น ในตลาดบางแห่ง AI ที่ตัดสินความน่าเชื่อถือทางเครดิตของคุณดำเนินการโดยไม่มีภาระผูกพันใดๆ ที่จะต้องอธิบายตัวเองกับคุณ คุณสามารถถูกปฏิเสธโดยไม่มีการอุทธรณ์ ไม่มีคำอธิบาย และไม่มีเส้นทางในการทำความเข้าใจว่าระบบเห็นอะไรที่นำไปสู่ข้อสรุปนั้น

ฉันเชื่อว่านี่จะกลายเป็นหนึ่งในความตึงเครียดที่กำหนดทศวรรษที่กำลังจะมาถึง ไม่ใช่สถานการณ์ที่ดราม่าที่ครอบงำการพูดถึง AI อย่างอาวุธหรือการหยุดชะงักในระดับนิยายวิทยาศาสตร์ แต่เป็นความตึงเครียดที่เงียบกว่าและใกล้ชิดกว่า เกี่ยวกับว่าใครจะได้มีส่วนร่วมในชีวิตทางเศรษฐกิจและภายใต้เงื่อนไขใด เมื่อระบบที่ควบคุมการมีส่วนร่วมนั้นกลายเป็นสิ่งที่เร็วขึ้น ทึบแสงขึ้น และมีผลกระทบมากขึ้น

สิ่งที่ความไว้วางใจต้องการจริงๆ

ฉันใช้เวลาอยู่ในพื้นที่ที่มีการตัดสินใจทางการเงิน สิ่งที่ฉันกลับมาคิดถึงอยู่เสมอขณะที่ดูการเปลี่ยนแปลงนี้คลี่คลายออกมาคือ ความไว้วางใจไม่ใช่คะแนน มันซับซ้อนกว่าและมีความเป็นมนุษย์มากกว่านั้น

ความไว้วางใจต้องการบริบท ต้องการความสามารถในการฟังเรื่องราวและเข้าใจว่าทำไมตัวเลขจึงดูเป็นอย่างที่เห็น ต้องการการตัดสินที่ก้าวข้ามการจับคู่รูปแบบ ระบบ AI ที่ซับซ้อนที่มีอยู่ในปัจจุบันประทับใจจริงๆ ในส่วนของการจับคู่รูปแบบ แต่ไม่สามารถทำในส่วนที่เหลือได้

ความเสี่ยงที่ฉันเห็นในโลกที่เราสร้างขึ้นไม่ใช่ว่าเครื่องจักรจะตัดสินใจ สถาบันต่างๆ ใช้เครื่องมือในการจัดการขนาดของการตัดสินใจมาโดยตลอด ความเสี่ยงคือเราจะเริ่มสับสนระหว่างความมั่นใจของเครื่องจักรกับความสมบูรณ์ของการตัดสิน ที่เราจะหยุดถามคำถามเพราะโมเดลคืนค่าตัวเลขและตัวเลขนั้นรู้สึกเด็ดขาด

ไม่ว่า AI จะอนุมัติคุณหรือไม่จะมีความสำคัญมากขึ้นเรื่อยๆ ในอีกไม่กี่ปีข้างหน้า คำถามที่ควรมีความสำคัญพอกันและที่ฉันนึกถึงทุกครั้งที่จำการสนทนากับเพื่อนร่วมงานของฉันคือ AI กำลังสร้างความไว้วางใจที่เราวางใจมันอยู่หรือไม่

นั่นไม่ใช่คำถามที่ AI สามารถตอบได้ มันเป็นคำถามที่เราต้องถามต่อไปและด้วยความมุ่งมั่นเพียงพอเพื่อให้แน่ใจว่าผู้คนที่สร้างและใช้งานระบบเหล่านี้กำลังรับฟัง

หากบทความนี้พูดถึงบางสิ่งที่คุณรู้สึกแต่อธิบายไม่ได้จริงๆ ฉันดีใจที่มันสมเหตุสมผลกับคุณ ติดตามสิ่งพิมพ์นี้เพื่อเรื่องราวเกี่ยวกับเทคโนโลยี การเงิน และวิธีที่มันส่งผลกระทบต่อผู้คน หากคุณชอบเรื่องนี้โปรดบอกให้คนอื่นรู้เพื่อที่พวกเขาจะได้พบมันด้วย คุณสามารถทำได้โดยการปรบมือให้มัน ฝากความคิดเห็น บอกเราว่าคุณคิดอย่างไรแม้ว่าคุณจะไม่เห็นด้วยกับเรื่องราวหรือถ้ามันดูแตกต่างกับคุณ สิ่งพิมพ์นี้สร้างโดยผู้คนที่เขียนเกี่ยวกับสิ่งที่สำคัญกับพวกเขา พวกเขานำความคิดและประสบการณ์มาสู่เรื่องราว หากคุณมีเรื่องราวที่จะเล่า ติดต่อเรา เราสามารถทำงานร่วมกันได้ *

By 2030 the Question Won't Be 'Do You Have Money?'. It Will Be 'Are You Approved by the AI?' เผยแพร่ครั้งแรกใน Coinmonks บน Medium ซึ่งผู้คนยังคงสนทนาต่อโดยการไฮไลท์และตอบสนองต่อเรื่องราวนี้