อัลกอริทึมของ LinkedIn เปิดเผย: อคติทางเพศที่น่าตกใจในการกระจายเนื้อหา AI

BitcoinWorld

เปิดเผยอัลกอริทึมของ LinkedIn: อคติทางเพศที่น่าตกใจในการกระจายเนื้อหา AI

ลองจินตนาการว่าคุณเห็นการเข้าถึงเนื้อหาทางวิชาชีพของคุณลดลงอย่างรวดเร็วในชั่วข้ามคืน ในขณะที่เพื่อนร่วมงานชายที่มีผู้ติดตามน้อยกว่ากลับได้รับความนิยมเพิ่มขึ้น นี่ไม่ใช่แค่การคาดเดา—แต่เป็นความจริงที่น่าตกใจที่ถูกค้นพบโดยผู้ใช้ LinkedIn ที่พบว่าเพศของพวกเขาอาจเป็นมือที่มองไม่เห็นที่กดทับการมองเห็นของพวกเขา การทดลอง #WearthePants ได้เปิดเผยรอยแตกที่อาจเกิดขึ้นในอัลกอริทึมใหม่ของ LinkedIn ที่ขับเคลื่อนด้วย LLM ซึ่งทำให้เกิดคำถามเร่งด่วนเกี่ยวกับความเป็นธรรมในแพลตฟอร์มเครือข่ายทางวิชาชีพ

อะไรกำลังเกิดขึ้นจริงๆ กับอัลกอริทึมของ LinkedIn?

ในเดือนพฤศจิกายน นักกลยุทธ์ผลิตภัณฑ์ที่เราจะเรียกว่า Michelle ได้ทำการทดลองง่ายๆ แต่เปิดเผยความจริง เธอเปลี่ยนเพศในโปรไฟล์ LinkedIn เป็นชายและเปลี่ยนชื่อเป็น Michael ผลลัพธ์น่าตกใจ: การแสดงผลโพสต์ของเธอเพิ่มขึ้น 200% และการมีส่วนร่วมเพิ่มขึ้น 27% ภายในไม่กี่วัน เธอไม่ได้เป็นคนเดียว Marilynn Joyner รายงานว่าการแสดงผลเพิ่มขึ้น 238% หลังจากทำการเปลี่ยนแปลงเช่นเดียวกัน ในขณะที่ผู้หญิงมืออาชีพคนอื่นๆ อีกมากมายได้บันทึกรูปแบบที่คล้ายคลึงกัน

การทดลองนี้เกิดขึ้นหลังจากมีข้อร้องเรียนหลายเดือนจากผู้ใช้ LinkedIn หนักๆ เกี่ยวกับการมีส่วนร่วมที่ลดลง ช่วงเวลานี้ตรงกับการประกาศของ LinkedIn ในเดือนสิงหาคมว่าพวกเขาได้นำ Large Language Models (LLMs) มาใช้ในการแสดงเนื้อหา "เมื่อไม่นานมานี้" สำหรับผู้หญิงที่สร้างผู้ติดตามจำนวนมากผ่านการโพสต์อย่างสม่ำเสมอ การเปลี่ยนแปลงอย่างกะทันหันนี้รู้สึกไม่เป็นธรรมอย่างยิ่ง

การทดลอง #WearthePants: อคติทางเพศอย่างเป็นระบบ?

การเคลื่อนไหวนี้เริ่มต้นด้วยผู้ประกอบการ Cindy Gallop และ Jane Evans ที่ขอให้เพื่อนร่วมงานชายสองคนโพสต์เนื้อหาเหมือนกัน แม้จะมีผู้ติดตามรวมกันมากกว่า 150,000 คน (เทียบกับผู้ชายที่มี 9,400 คน) ผลลัพธ์ก็ชัดเจน:

"ตัวแปรสำคัญเพียงอย่างเดียวคือเพศ" Michelle บอกกับ Bitcoin World เธอสังเกตว่าแม้จะมีผู้ติดตามมากกว่า 10,000 คนเมื่อเทียบกับสามีของเธอที่มี 2,000 คน พวกเขาได้รับจำนวนการแสดงผลที่คล้ายกัน—จนกระทั่งเธอนำรายละเอียดโปรไฟล์และสไตล์การเขียนของเขามาใช้

อคติของ AI แทรกซึมเข้าสู่อัลกอริทึมโซเชียลมีเดียได้อย่างไร

LinkedIn ยืนยันว่า "อัลกอริทึมและระบบ AI ของพวกเขาไม่ได้ใช้ข้อมูลประชากรเช่น อายุ เชื้อชาติ หรือเพศ เป็นสัญญาณในการกำหนดการมองเห็นของเนื้อหา" อย่างไรก็ตาม ผู้เชี่ยวชาญแนะนำว่าอคตินี้อาจแฝงอยู่อย่างแยบยลและเป็นระบบมากกว่า

Brandeis Marshall ที่ปรึกษาด้านจริยธรรมข้อมูล อธิบายว่า: "แพลตฟอร์มเป็นเหมือนซิมโฟนีที่ซับซ้อนของอัลกอริทึมที่ดึงคันโยกทางคณิตศาสตร์และสังคมเฉพาะ พร้อมกันและอย่างต่อเนื่อง แพลตฟอร์มส่วนใหญ่มีมุมมองแบบคนผิวขาว ผู้ชาย และตะวันตกเป็นศูนย์กลางฝังอยู่โดยธรรมชาติ เนื่องจากใครเป็นผู้ฝึกฝนโมเดล"

ปัญหาเกิดจากวิธีการเรียนรู้ของ LLMs:

• พวกมันถูกฝึกฝนด้วยเนื้อหาที่มนุษย์สร้างขึ้นซึ่งมีอคติที่มีอยู่แล้ว
• ผู้ฝึกสอนที่เป็นมนุษย์มักเสริมแรงรูปแบบบางอย่างระหว่างการฝึกอบรมหลังจากนั้น
• ข้อมูลการมีส่วนร่วมในอดีตอาจชอบรูปแบบการสื่อสารแบบชายตามประเพณี

สไตล์การเขียน: ตัวแปรที่ซ่อนอยู่ในอัลกอริทึมของ LinkedIn

Michelle สังเกตเห็นบางสิ่งที่สำคัญระหว่างการทดลองของเธอ เมื่อโพสต์ในฐานะ "Michael" เธอปรับการเขียนของเธอให้เป็นสไตล์ที่ตรงไปตรงมาและกระชับมากขึ้น—คล้ายกับวิธีที่เธอเขียนให้สามีของเธอโดยไม่เปิดเผยตัวตน การเปลี่ยนแปลงสไตล์นี้ ร่วมกับการเปลี่ยนเพศ ทำให้เกิดผลลัพธ์ที่น่าทึ่ง

Sarah Dean ผู้ช่วยศาสตราจารย์ด้านวิทยาการคอมพิวเตอร์ที่ Cornell กล่าวว่า: "ข้อมูลประชากรของคนสามารถส่งผลต่อ 'ทั้งสองด้าน' ของอัลกอริทึม—สิ่งที่พวกเขาเห็นและใครเห็นสิ่งที่พวกเขาโพสต์ แพลตฟอร์มมักใช้โปรไฟล์ทั้งหมด รวมถึงงานและประวัติการมีส่วนร่วม เมื่อกำหนดเนื้อหาที่จะส่งเสริม"

นี่บ่งชี้ว่าอัลกอริทึมของ LinkedIn อาจกำลังให้รางวัลกับรูปแบบการสื่อสารที่เชื่อมโยงกับผู้ชายมืออาชีพในอดีต:

• ภาษาที่กระชับ ตรงไปตรงมา
• การยืนยันที่มั่นใจ
• คำศัพท์เฉพาะอุตสาหกรรม
• ภาษาที่แสดงอารมณ์หรือมีเงื่อนไขน้อยลง

การตอบสนองของ LinkedIn และกล่องดำของอัลกอริทึม

Sakshi Jain หัวหน้าฝ่าย AI ที่รับผิดชอบและการกำกับดูแลของ LinkedIn ย้ำในเดือนพฤศจิกายนว่าระบบของพวกเขาไม่ได้ใช้ข้อมูลประชากรสำหรับการมองเห็นเนื้อหา บริษัทบอกกับ Bitcoin World ว่าพวกเขาทดสอบโพสต์หลายล้านรายการเพื่อให้แน่ใจว่าผู้สร้าง "แข่งขันบนพื้นฐานที่เท่าเทียมกัน" และประสบการณ์ฟีดยังคงสม่ำเสมอในทุกกลุ่มผู้ชม

อย่างไรก็ตาม แพลตฟอร์มนี้มีความโปร่งใสน้อยมากเกี่ยวกับกระบวนการฝึกอบรม AI ของพวกเขา Chad Johnson ผู้เชี่ยวชาญด้านการขายที่ใช้งาน LinkedIn อย่างแข็งขัน อธิบายระบบใหม่ว่าให้ความสำคัญกับ "ความเข้าใจ ความชัดเจน และคุณค่า" มากกว่าตัวชี้วัดแบบดั้งเดิมเช่นความถี่ในการโพสต์หรือจังหวะเวลา

การเปลี่ยนแปลงสำคัญที่ผู้ใช้รายงาน:

• การลดความสำคัญของการกดไลค์และการโพสต์ซ้ำ
• การแข่งขันที่เพิ่มขึ้น (การโพสต์เพิ่มขึ้น 15% เมื่อเทียบกับปีที่แล้ว)
• รางวัลสำหรับเนื้อหาที่เฉพาะเจาะจงและมุ่งเป้าไปยังกลุ่มเป้าหมาย
• เน้นข้อมูลเชิงลึกทางวิชาชีพและการวิเคราะห์อุตสาหกรรมมากขึ้น

ไม่ใช่แค่เรื่องเพศ: ความไม่พอใจในอัลกอริทึมที่กว้างขึ้น

ความคับข้องใจขยายไปไกลกว่าปัญหาเรื่องเพศ ผู้ใช้หลายคน ไม่ว่าจะเพศใด รายงานความสับสนเกี่ยวกับระบบใหม่:

• Shailvi Wakhulu นักวิทยาศาสตร์ข้อมูล เห็นการแสดงผลลดลงจากหลายพันเป็นหลายร้อย
• ผู้ใช้ชายคนหนึ่งรายงานการมีส่วนร่วมลดลง 50% ในช่วงหลายเดือนที่ผ่านมา
• ชายอีกคนเห็นการแสดงผลเพิ่มขึ้น 100% โดยการเขียนสำหรับกลุ่มเป้าหมายเฉพาะ
• Brandeis Marshall สังเกตว่าโพสต์ของเธอเกี่ยวกับเชื้อชาติทำงานได้ดีกว่าโพสต์เกี่ยวกับความเชี่ยวชาญของเธอ

Sarah Dean แนะนำว่าอัลกอริทึมอาจเพียงแค่ขยายสัญญาณที่มีอยู่: "มันอาจให้รางวัลกับโพสต์บางอย่างไม่ใช่เพราะข้อมูลประชากรของผู้เขียน แต่เพราะมีการตอบสนองทางประวัติศาสตร์มากกว่าต่อเนื้อหาที่คล้ายกันทั่วทั้งแพลตฟอร์ม"

ข้อมูลเชิงปฏิบัติสำหรับการนำทางอัลกอริทึมใหม่ของ LinkedIn

จากประสบการณ์ของผู้ใช้และคำแนะนำของ LinkedIn นี่คือสิ่งที่ดูเหมือนจะได้ผล:

1. เขียนสำหรับกลุ่มเป้าหมายเฉพาะ ด้วยข้อมูลเชิงลึกทางวิชาชีพที่ชัดเจน
2. มุ่งเน้นที่ความชัดเจนและคุณค่า มากกว่าการดึงดูดทางอารมณ์
3. แบ่งปันบทเรียนอาชีพ และการวิเคราะห์อุตสาหกรรม
4. ให้เนื้อหาเชิงการศึกษา เกี่ยวกับงานและเศรษฐศาสตร์ธุรกิจ
5. มีส่วนร่วมอย่างมีความหมาย แทนที่จะไล่ตามตัวชี้วัดความหลงตัวเอง

ปัญหาความโปร่งใสในอัลกอริทึมโซเชียลมีเดีย

"ฉันต้องการความโปร่งใส" Michelle กล่าว สะท้อนความรู้สึกทั่วไป อย่างไรก็ตาม ตามที่ Brandeis Marshall กล่าว ความโปร่งใสอย่างสมบูรณ์อาจนำไปสู่การเล่นเกมกับอัลกอริทึม แพลตฟอร์มปกป้องความลับของอัลกอริทึมของพวกเขาอย่างใกล้ชิด สร้างสิ่งที่ผู้เชี่ยวชาญเรียกว่าปัญหา "กล่องดำ"

ความตึงเครียดพื้นฐานยังคงอยู่: ผู้ใช้ต้องการระบบที่เป็นธรรมและเข้าใจได้ ในขณะที่แพลตฟอร์มต้องป้องกันการจัดการ ความขัดแย้งนี้เกิดขึ้นอย่างเฉียบคมในเครือข่ายวิชาชีพเช่น LinkedIn ที่การมองเห็นสามารถส่งผลกระทบโดยตรงต่ออาชีพและโอกาสทางธุรกิจ

คำถามที่พบบ่อย: ทำความเข้าใจข้อโต้แย้งเกี่ยวกับอัลกอริทึมของ LinkedIn

การทดลอง #WearthePants คืออะไร?

การทดลอง #WearthePants เกี่ยวข้องกับผู้หญิงที่เปลี่ยนเพศในโปรไฟล์ LinkedIn เป็นชายเพื่อทดสอบว่าอัลกอริทึมของแพลตฟอร์มแสดงอคติทางเพศในการกระจายเนื้อหาหรือไม่

ใครเริ่มการเคลื่อนไหว #WearthePants?

การทดลองเริ่มต้นด้วยผู้ประกอบการ Cindy Gallop และ Jane Evans ที่สงสัยว่าเพศอาจอธิบายการมีส่วนร่วมที่ลดลง

LinkedIn กล่าวอะไรเกี่ยวกับข้อกล่าวหาเหล่านี้?

LinkedIn ยืนยันว่าอัลกอริทึมของพวกเขาไม่ได้ใช้ข้อมูลประชากรสำหรับการมองเห็นเนื้อหา Sakshi Jain หัวหน้าฝ่าย AI ที่รับผิดชอบ และ Tim Jurka รองประธานฝ่ายวิศวกรรม ต่างก็ได้กล่าวถึงข้อกังวลเหล่านี้

สไตล์การเขียนสามารถอธิบายความแตกต่างได้หรือไม่?

ได้ ผู้เข้าร่วมสังเกตว่าการใช้สไตล์การเขียนที่ตรงไปตรงมาและกระชับมากขึ้น—ซึ่งมักเชื่อมโยงกับรูปแบบการสื่อสารของผู้ชาย—สัมพันธ์กับการมองเห็นที่เพิ่มขึ้น

แพลตฟอร์มโซเชียลมีเดียอื่นๆ กำลังเผชิญกับปัญหาคล้ายกันหรือไม่?

ใช่ แพลตฟอร์มที่พึ่งพา LLM ส่วนใหญ่ต่อสู้กับอคติที่ฝังอยู่จากข้อมูลการฝึกอบรมของพวกเขา ตามที่ผู้เชี่ยวชาญเช่น Brandeis Marshall และนักวิจัยรวมถึง Sarah Dean ได้กล่าวไว้

บทสรุป: ความจริงที่น่าตกใจของความเป็นธรรมในอัลกอริทึม

การทดลอง #WearthePants เปิดเผยความเป็นไปได้ที่น่ากังวล: แม้แต่ระบบ AI ที่มีเจตนาดีก็สามารถสืบทอดอคติในโลกแห่งความเป็นจริงได้ แม้ว่า LinkedIn จะปฏิเสธการเลือกปฏิบัติโดยเจตนา แต่รูปแบบที่สังเกตโดยผู้หญิงมืออาชีพจำนวนมากบ่งชี้ว่ามีบางสิ่งที่เป็นระบบกำลังทำงานอยู่ ไม่ว่าจะฝังอยู่ในข้อมูลการฝึกอบรม เสริมแรงโดยรูปแบบการมีส่วนร่วมในอดีต หรือขยายผ่านความชอบในสไตล์ ผลกระทบยังคงเหมือนเดิม: เสียงบางเสียงได้รับการขยาย ในขณะที่เสียงอื่นๆ ถูกกดทับ

เมื่อ AI ฝังตัวในแพลตฟอร์มวิชาชีพมากขึ้น ความจำเป็นในความโปร่งใส ความรับผิดชอบ และข้อมูลการฝึกอบรมที่หลากหลายก็ยิ่งเร่งด่วนมากขึ้น ทางเลือกคือภูมิทัศน์วิชาชีพดิจิทัลที่ความสำเร็จไม่ได้ขึ้นอยู่กับความสามารถเท่านั้น แต่ขึ้นอยู่กับว่าคุณสามารถปรับตัวให้เข้ากับความชอบของอัลกอริทึมได้ดีเพียงใด—ความชอบที่อาจมีอคติของผู้สร้างที่เป็นมนุษย์

หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับพัฒนาการล่าสุดในอัลกอริทึม AI และผลกระทบต่อสังคม สำรวจบทความของเราเกี่ยวกับการพัฒนาสำคัญที่กำหนดรูปแบบการนำ AI ไปใช้และข้อพิจารณาด้านจริยธรรมในแพลตฟอร์มโซเชียลมีเดีย

โพสต์นี้ เปิดเผยอัลกอริทึมของ LinkedIn: อคติทางเพศที่น่าตกใจในการกระจายเนื้อหา AI ปรากฏครั้งแรกบน BitcoinWorld