लिंक्डइन एल्गोरिथम एक्सपोज्ड: एआई कंटेंट डिस्ट्रीब्यूशन में चौंकाने वाला जेंडर बायस

BitcoinWorld

LinkedIn एल्गोरिदम एक्सपोज्ड: AI कंटेंट डिस्ट्रीब्यूशन में चौंकाने वाला लिंग पूर्वाग्रह

कल्पना कीजिए कि आप अपनी पेशेवर सामग्री की पहुंच को रातोंरात घटते हुए देख रहे हैं, जबकि कम फॉलोअर्स वाले पुरुष सहकर्मी उड़ान भर रहे हैं। यह सिर्फ अनुमान नहीं है—यह एक परेशान करने वाली वास्तविकता है जिसे LinkedIn उपयोगकर्ताओं ने उजागर किया है, जिन्होंने पाया कि उनका लिंग उनकी दृश्यता को दबाने वाला अदृश्य हाथ हो सकता है। #WearthePants प्रयोग ने LinkedIn के नए LLM-संचालित एल्गोरिदम में संभावित दरारें उजागर की हैं, जिससे पेशेवर नेटवर्किंग प्लेटफॉर्म में निष्पक्षता के बारे में तत्काल प्रश्न उठ रहे हैं।

LinkedIn के एल्गोरिदम के साथ वास्तव में क्या हो रहा है?

नवंबर में, एक प्रोडक्ट स्ट्रैटेजिस्ट जिसे हम मिशेल कहेंगे, ने एक सरल लेकिन प्रकट करने वाला प्रयोग किया। उसने अपने LinkedIn प्रोफाइल का लिंग पुरुष में बदल दिया और अपना नाम माइकल कर दिया। परिणाम चौंकाने वाले थे: उसके पोस्ट इंप्रेशन 200% बढ़ गए और एंगेजमेंट कुछ दिनों के भीतर 27% बढ़ गया। वह अकेली नहीं थी। मैरिलिन जॉयनर ने समान परिवर्तन करने के बाद इंप्रेशन में 238% की वृद्धि की सूचना दी, जबकि कई अन्य पेशेवर महिलाओं ने समान पैटर्न का दस्तावेजीकरण किया।

यह प्रयोग भारी LinkedIn उपयोगकर्ताओं से घटते एंगेजमेंट के बारे में महीनों की शिकायतों के बाद सामने आया। समय LinkedIn के अगस्त की घोषणा के साथ मेल खाता था कि उन्होंने "हाल ही में" सामग्री को सामने लाने के लिए लार्ज लैंग्वेज मॉडल्स (LLMs) को लागू किया था। उन महिलाओं के लिए जिन्होंने लगातार पोस्टिंग के माध्यम से पर्याप्त फॉलोइंग बनाई थी, अचानक परिवर्तन विशेष रूप से अनुचित लगा।

#WearthePants प्रयोग: व्यवस्थित लिंग पूर्वाग्रह?

यह आंदोलन उद्यमियों सिंडी गैलोप और जेन इवांस के साथ शुरू हुआ, जिन्होंने दो पुरुष सहकर्मियों से समान सामग्री पोस्ट करने के लिए कहा। 150,000 से अधिक की संयुक्त फॉलोइंग होने के बावजूद (पुरुषों के 9,400 की तुलना में), परिणाम बताते हैं:

"एकमात्र महत्वपूर्ण चर लिंग था," मिशेल ने Bitcoin World को बताया। उसने नोट किया कि अपने पति के 2,000 की तुलना में 10,000 से अधिक फॉलोअर्स होने के बावजूद, उन्हें समान इंप्रेशन संख्या मिली—जब तक कि उसने उसके प्रोफाइल विवरण और लेखन शैली को नहीं अपनाया।

AI पूर्वाग्रह सोशल मीडिया एल्गोरिदम में कैसे घुसता है

LinkedIn का कहना है कि उसका "एल्गोरिदम और AI सिस्टम सामग्री की दृश्यता निर्धारित करने के लिए आयु, नस्ल, या लिंग जैसी जनसांख्यिकीय जानकारी का उपयोग सिग्नल के रूप में नहीं करते हैं।" हालांकि, विशेषज्ञों का सुझाव है कि पूर्वाग्रह अधिक सूक्ष्म और व्यवस्थित हो सकता है।

डेटा एथिक्स कंसल्टेंट ब्रैंडिस मार्शल बताते हैं: "प्लेटफॉर्म एल्गोरिदम का एक जटिल सिम्फनी हैं जो विशिष्ट गणितीय और सामाजिक लीवर को एक साथ और लगातार खींचते हैं। इनमें से अधिकांश प्लेटफॉर्म में स्वाभाविक रूप से एक श्वेत, पुरुष, पश्चिमी-केंद्रित दृष्टिकोण निहित है, जो इस बात पर निर्भर करता है कि किसने मॉडल को प्रशिक्षित किया।"

समस्या इस बात से उत्पन्न होती है कि LLMs कैसे सीखते हैं:

• वे मौजूदा पूर्वाग्रहों वाली मानव-निर्मित सामग्री पर प्रशिक्षित होते हैं
• मानव प्रशिक्षक अक्सर पोस्ट-ट्रेनिंग के दौरान कुछ पैटर्न को मजबूत करते हैं
• ऐतिहासिक एंगेजमेंट डेटा पारंपरिक रूप से पुरुष संचार शैलियों को प्राथमिकता दे सकता है

लेखन शैली: LinkedIn के एल्गोरिदम में छिपा हुआ चर

मिशेल ने अपने प्रयोग के दौरान कुछ महत्वपूर्ण देखा। "माइकल" के रूप में पोस्ट करते समय, उसने अपने लेखन को अधिक प्रत्यक्ष, संक्षिप्त शैली में समायोजित किया—उसी तरह जैसे वह अपने पति के लिए घोस्टराइटिंग करती है। इस शैलीगत परिवर्तन ने, लिंग स्विच के साथ मिलकर, नाटकीय परिणाम पैदा किए।

कॉर्नेल में कंप्यूटर साइंस की सहायक प्रोफेसर सारा डीन नोट करती हैं: "किसी की जनसांख्यिकी एल्गोरिदम के 'दोनों पक्षों' को प्रभावित कर सकती है—वे क्या देखते हैं और कौन देखता है कि वे क्या पोस्ट करते हैं। प्लेटफॉर्म अक्सर संपूर्ण प्रोफाइल का उपयोग करते हैं, जिसमें नौकरियां और एंगेजमेंट इतिहास शामिल है, जब सामग्री को बढ़ावा देने का निर्धारण करते हैं।"

यह सुझाव देता है कि LinkedIn का एल्गोरिदम ऐतिहासिक रूप से पुरुष पेशेवरों से जुड़े संचार पैटर्न को पुरस्कृत कर सकता है:

• संक्षिप्त, प्रत्यक्ष भाषा
• आत्मविश्वासी कथन
• उद्योग-विशिष्ट शब्दजाल
• कम भावनात्मक या योग्यता भाषा

LinkedIn की प्रतिक्रिया और एल्गोरिदम ब्लैक बॉक्स

LinkedIn के रेस्पॉन्सिबल AI और गवर्नेंस के प्रमुख, साक्षी जैन ने नवंबर में दोहराया कि उनके सिस्टम सामग्री की दृश्यता के लिए जनसांख्यिकीय जानकारी का उपयोग नहीं करते हैं। कंपनी ने Bitcoin World को बताया कि वे लाखों पोस्ट का परीक्षण करते हैं ताकि यह सुनिश्चित हो सके कि क्रिएटर्स "समान आधार पर प्रतिस्पर्धा करें" और फीड अनुभव दर्शकों में एक समान रहे।

हालांकि, प्लेटफॉर्म अपनी AI प्रशिक्षण प्रक्रियाओं के बारे में न्यूनतम पारदर्शिता प्रदान करता है। LinkedIn पर सक्रिय सेल्स एक्सपर्ट चैड जॉनसन ने नए सिस्टम को पोस्टिंग फ्रीक्वेंसी या टाइमिंग जैसे पारंपरिक मेट्रिक्स के बजाय "समझ, स्पष्टता और मूल्य" को प्राथमिकता देने के रूप में वर्णित किया।

उपयोगकर्ताओं द्वारा रिपोर्ट किए गए प्रमुख परिवर्तन:

• लाइक्स और रीपोस्ट का डिप्रायोरिटाइजेशन
• बढ़ी हुई प्रतिस्पर्धा (पोस्टिंग साल-दर-साल 15% बढ़ी)
• विशिष्ट, दर्शक-लक्षित सामग्री के लिए पुरस्कार
• पेशेवर अंतर्दृष्टि और उद्योग विश्लेषण पर अधिक जोर

सिर्फ लिंग नहीं: व्यापक एल्गोरिदम असंतोष

निराशा लिंग के मुद्दों से परे है। कई उपयोगकर्ता, लिंग की परवाह किए बिना, नई प्रणाली के बारे में भ्रम की रिपोर्ट करते हैं:

• डेटा साइंटिस्ट शैल्वी वाखुलु ने इंप्रेशन को हजारों से सैकड़ों तक गिरते देखा
• एक पुरुष उपयोगकर्ता ने हाल के महीनों में 50% एंगेजमेंट ड्रॉप की रिपोर्ट की
• एक अन्य व्यक्ति ने विशिष्ट दर्शकों के लिए लिखकर इंप्रेशन में 100% वृद्धि देखी
• ब्रैंडिस मार्शल नोट करती हैं कि नस्ल के बारे में उनके पोस्ट उनकी विशेषज्ञता के बारे में पोस्ट की तुलना में बेहतर प्रदर्शन करते हैं

सारा डीन का सुझाव है कि एल्गोरिदम बस मौजूदा सिग्नल को बढ़ा रहा हो सकता है: "यह कुछ पोस्ट को पुरस्कृत कर सकता है, लेखक की जनसांख्यिकी के कारण नहीं, बल्कि इसलिए क्योंकि प्लेटफॉर्म भर में समान सामग्री के लिए अधिक ऐतिहासिक प्रतिक्रिया रही है।"

नए LinkedIn एल्गोरिदम को नेविगेट करने के लिए कार्रवाई योग्य अंतर्दृष्टि

उपयोगकर्ता अनुभवों और LinkedIn के मार्गदर्शन के आधार पर, यहां बताया गया है कि क्या काम करता प्रतीत होता है:

1. विशिष्ट दर्शकों के लिए लिखें स्पष्ट पेशेवर अंतर्दृष्टि के साथ
2. स्पष्टता और मूल्य पर ध्यान केंद्रित करें भावनात्मक अपील के बजाय
3. करियर के सबक साझा करें और उद्योग विश्लेषण
4. शैक्षिक सामग्री प्रदान करें काम और व्यापार अर्थशास्त्र के बारे में
5. सार्थक रूप से जुड़ें बजाय वैनिटी मेट्रिक्स का पीछा करने के

सोशल मीडिया एल्गोरिदम में पारदर्शिता की दुविधा

"मैं पारदर्शिता चाहती हूं," मिशेल ने कहा, एक आम भावना को प्रतिध्वनित करते हुए। हालांकि, जैसा कि ब्रैंडिस मार्शल नोट करती हैं, पूर्ण पारदर्शिता एल्गोरिदम गेमिंग की ओर ले जा सकती है। प्लेटफॉर्म अपने एल्गोरिदमिक रहस्यों की सख्ती से रक्षा करते हैं, जिससे विशेषज्ञ "ब्लैक बॉक्स" समस्या कहते हैं।

मूलभूत तनाव बना रहता है: उपयोगकर्ता निष्पक्ष, समझने योग्य प्रणालियां चाहते हैं, जबकि प्लेटफॉर्म को हेरफेर को रोकने की आवश्यकता होती है। यह संघर्ष विशेष रूप से LinkedIn जैसे पेशेवर नेटवर्क में तीव्र है, जहां दृश्यता सीधे करियर और व्यापार के अवसरों को प्रभावित कर सकती है।

FAQs: LinkedIn के एल्गोरिदम विवाद को समझना

#WearthePants प्रयोग क्या है?

#WearthePants प्रयोग में महिलाओं ने अपने LinkedIn प्रोफाइल लिंग को पुरुष में बदलकर यह परीक्षण किया कि क्या प्लेटफॉर्म का एल्गोरिदम सामग्री वितरण में लिंग पूर्वाग्रह दिखाता है।

#WearthePants आंदोलन किसने शुरू किया?

प्रयोग उद्यमियों सिंडी गैलोप और जेन इवांस के साथ शुरू हुआ, जिन्हें संदेह था कि लिंग घटते एंगेजमेंट की व्याख्या कर सकता है।

इन आरोपों के बारे में LinkedIn ने क्या कहा है?

LinkedIn का कहना है कि उसका एल्गोरिदम सामग्री की दृश्यता के लिए जनसांख्यिकीय डेटा का उपयोग नहीं करता है। रेस्पॉन्सिबल AI के प्रमुख साक्षी जैन और इंजीनियरिंग के VP टिम जुरका दोनों ने इन चिंताओं को संबोधित किया है।

क्या लेखन शैली अंतरों की व्याख्या कर सकती है?

हां। प्रतिभागियों ने नोट किया कि अधिक प्रत्यक्ष, संक्षिप्त लेखन शैलियों को अपनाना—जो अक्सर पुरुष संचार पैटर्न से जुड़ा होता है—बढ़ी हुई दृश्यता के साथ सहसंबद्ध था।

क्या अन्य सोशल मीडिया प्लेटफॉर्म समान मुद्दों का सामना कर रहे हैं?

हां। अधिकांश LLM-निर्भर प्लेटफॉर्म अपने प्रशिक्षण डेटा से एम्बेडेड पूर्वाग्रहों से जूझते हैं, जैसा कि ब्रैंडिस मार्शल जैसे विशेषज्ञों और सारा डीन सहित शोधकर्ताओं द्वारा नोट किया गया है।

निष्कर्ष: एल्गोरिदमिक निष्पक्षता की असहज वास्तविकता

#WearthePants प्रयोग एक परेशान करने वाली संभावना को उजागर करता है: अच्छे इरादों वाले AI सिस्टम भी वास्तविक दुनिया के पूर्वाग्रहों को बढ़ावा दे सकते हैं। जबकि LinkedIn जानबूझकर भेदभाव से इनकार करता है, कई पेशेवर महिलाओं द्वारा देखे गए पैटर्न कुछ व्यवस्थित काम का सुझाव देते हैं। चाहे वह प्रशिक्षण डेटा में एम्बेडेड हो, ऐतिहासिक एंगेजमेंट पैटर्न द्वारा मजबूत किया गया हो, या शैलीगत प्राथमिकताओं के माध्यम से बढ़ाया गया हो, प्रभाव समान रहता है: कुछ आवाजें बढ़ जाती हैं जबकि अन्य दब जाती हैं।

जैसे-जैसे AI पेशेवर प्लेटफॉर्म में अधिक एम्बेडेड होता जाता है, पारदर्शिता, जवाबदेही और विविध प्रशिक्षण डेटा की आवश्यकता अधिक तत्काल हो जाती है। विकल्प एक डिजिटल पेशेवर परिदृश्य है जहां सफलता न केवल योग्यता पर निर्भर करती है, बल्कि इस बात पर भी निर्भर करती है कि कोई एल्गोरिदमिक प्राथमिकताओं के अनुरूप कितनी अच्छी तरह से हो सकता है—प्राथमिकताएं जो अपने मानव निर्माताओं के पूर्वाग्रहों को ले जा सकती हैं।

AI एल्गोरिदम में नवीनतम विकास और उनके सामाजिक प्रभावों के बारे में अधिक जानने के लिए, सोशल मीडिया प्लेटफॉर्म में AI कार्यान्वयन और नैतिक विचारों को आकार देने वाले प्रमुख विकास पर हमारे लेख का अन्वेषण करें।

यह पोस्ट LinkedIn एल्गोरिदम एक्सपोज्ड: AI कंटेंट डिस्ट्रीब्यूशन में चौंकाने वाला लिंग पूर्वाग्रह पहली बार BitcoinWorld पर प्रकट हुई।