उत्पीड़क एल्गोरिदम, व्यसनी डिज़ाइन के खिलाफ, माता-पिता हमेशा तालमेल नहीं रख सकते

हाल ही में किशोर सुरक्षा पर TikTok फिलीपींस के एक कार्यक्रम में, मैंने इसके सार्वजनिक नीति प्रमुख Yvez Gonzalez से, नागरिक समाज संगठनों और सोशल मीडिया पर बच्चों की सुरक्षा की वकालत करने वाले कंटेंट क्रिएटर्स के एक पैनल के साथ, यूरोपीय संघ (EU) के हालिया निष्कर्षों के बारे में पूछा, जिसमें यह निर्धारित किया गया था कि प्लेटफ़ॉर्म पर प्रमुख डिज़ाइन सुविधाएं नशे की लत वाली थीं, और उन्हें बदला जाना चाहिए। 

Gonzalez ने कहा कि मूल कंपनी निष्कर्षों के खिलाफ अपील करेगी, और उल्लेख किया कि उनके पास 18 वर्ष से कम आयु के उपयोगकर्ताओं की सुरक्षा के लिए कई सुविधाएं हैं जैसे कि 60 मिनट की ऐप सीमा, कंटेंट पर माता-पिता का नियंत्रण, फॉलोअर दृश्यता, और नाबालिगों के फीड और कंटेंट को 18-और-उससे-अधिक आयु की आबादी से अलग रखना। "हमारा मानना है कि उद्योग में, हमारे पास सबसे मजबूत सुरक्षा उपायों में से एक है," उन्होंने कहा।

इतिहास कंटेंट क्रिएटर Mona Magno-Veluz ने प्रश्न पर अपना दृष्टिकोण प्रस्तुत किया, और इस बात पर जोर दिया कि सबसे बढ़कर, सोशल मीडिया किशोर उपयोग की पहेली के लिए माता-पिता का मार्गदर्शन महत्वपूर्ण है। 

"मैं सहमत हूं कि सभी प्लेटफ़ॉर्म की अपनी कार्रवाई है लेकिन हम उस समीकरण से अपनी जिम्मेदारी को भी नहीं हटा सकते। मुझे वास्तव में लगता है कि माता-पिता, कमरे में मौजूद वयस्कों की भी जिम्मेदारी है जब सोशल मीडिया के उपयोग में संयम की बात आती है। तो मुझे लगता है कि यह सिर्फ एक तकनीक नहीं है बल्कि इसे हमारी संस्कृति और सामाजिक मानदंडों में भी संबोधित किया जाना चाहिए," Magno-Veluz ने कहा।

Riyan Portuguez, एक मनोवैज्ञानिक और डिजिटल कल्याण अधिवक्ता, ने नोट किया कि बाहरी कारक एक बच्चे के आदी होने में योगदान दे सकते हैं क्योंकि सोशल मीडिया सामना करने के सबसे सुलभ तरीकों में से एक बन गया है।

उन्होंने कहा: "आमतौर पर, हमारे लिए सामना करने का सबसे आसान तरीका सोशल मीडिया प्लेटफ़ॉर्म का उपयोग करना है क्योंकि वे सबसे अधिक उपलब्ध हैं। इसलिए व्यसन होते हैं क्योंकि हर बार जब कोई समस्या होती है, तनाव होता है, तो फोन का उपयोग करें।"

सोशल मीडिया की हमेशा उपलब्धता के साथ, माता-पिता और परिवार का बच्चे के लिए उपस्थित होना महत्वपूर्ण है। "लेकिन अगर परिवार में संचार ठीक है, तो आपके पास सोशल मीडिया के बाहर बात करने के लिए कोई है, आप इसे नियंत्रित कर सकते हैं। तो यह केवल सोशल मीडिया का मुद्दा नहीं है," उन्होंने कहा।

Portuguez का बयान वास्तव में सोमवार, 24 फरवरी को, वादी Kaley की पूर्व चिकित्सक Victoria Burke से अमेरिका में ऐतिहासिक सोशल मीडिया व्यसन परीक्षण से सबसे हालिया गवाही को दर्शाता है।

Burke ने बच्चे के मानसिक स्वास्थ्य मुद्दों की पहचान की, और कहा कि सोशल मीडिया उसके मानसिक मुद्दों में एक "योगदान कारक" था, लेकिन उन्होंने पूरी तरह से दोष उन पर नहीं लगाया। Kaley को उसके तलाकशुदा माता-पिता के साथ तनावपूर्ण संबंध के रूप में भी वर्णित किया गया है।

इस बीच, सोशल मीडिया विनियमन के लिए एक स्थानीय सीनेट सुनवाई में, Annalyn Capulong, UP Diliman के मनोविज्ञान विभाग में सहायक प्रोफेसर, ने सांसदों से कहा: "Sentro 'yung ambag ng magulang।" (माता-पिता का योगदान केंद्रीय है।)

लेकिन Capulong ने खुद वास्तविकता को स्वीकार किया कि कभी-कभी माता-पिता किसी अन्य कार्य को संभालते समय बच्चे को व्यस्त रखने के लिए उपकरणों और स्क्रीन पर भरोसा करते हैं। 

आदर्श रूप से, माता-पिता अधिकांश समय उपस्थित होते हैं। हम जानते हैं कि यह हमेशा संभव नहीं होता है, और सभी परिवारों के पास एक आदर्श सेटअप नहीं है जैसा कि अमेरिका में Kaley मामले में देखा गया है।

इनका क्या मतलब है? इसका मतलब है कि नाबालिग आबादी का एक निश्चित हिस्सा, सचमुच, अपने स्वयं के उपकरणों पर छोड़ दिया जाएगा, एक ऐप की डिज़ाइन सुविधाओं की दया पर। ये आबादी के सबसे कमजोर सदस्य हैं, और प्लेटफ़ॉर्म को इनकी सुरक्षा के प्रति सचेत होना चाहिए।

"क्या हम अपने सबसे जोखिम वाले उपयोगकर्ताओं के लिए प्लेटफ़ॉर्म को सुरक्षित बना रहे हैं?" आदर्श रूप से वह प्रश्न होना चाहिए जो वे खुद से पूछें। और यह देखते हुए कि मानसिक स्वास्थ्य और पर्यावरणीय और पारिवारिक कारक लोगों को उनके नाबालिग वर्षों से परे प्रभावित करते हैं, यह प्लेटफ़ॉर्म के लिए है कि वे इस समस्या का समाधान करें — न केवल नाबालिगों के लिए, भले ही, अभी के लिए, कानूनी और विधायी चर्चाएं उन पर केंद्रित हैं।

Meta को माता-पिता की मध्यस्थता प्रभावी नहीं लगी

Meta से आंतरिक, पहले अप्रकाशित शोध, जो केवल हाल ही में परीक्षण में प्रकट हुआ, ने यह भी पाया कि माता-पिता की निगरानी और समय सीमा दोनों उतने प्रभावी नहीं हैं जितना माना जाता है।

Project MYST (Meta and Youth Social Emotional Trends) सोशल मीडिया उपयोग पर 1,000 किशोरों और माता-पिता का एक सर्वेक्षण था, जिसने निष्कर्ष निकाला, "माता-पिता की रिपोर्ट या माता-पिता की निगरानी की किशोर रिपोर्ट, और किशोरों के सर्वेक्षण उपायों की सावधानी या क्षमता के बीच कोई संबंध नहीं है" और यह कि "माता-पिता और घरेलू कारकों का किशोरों के सोशल मीडिया उपयोग के प्रति उनकी रिपोर्ट की गई सावधानी के स्तर के साथ बहुत कम संबंध है।"

युवा जो तनावपूर्ण वातावरण में हैं, वे और भी अधिक कमजोर हैं। सर्वेक्षण के परिणामों के अनुसार, उन्हें सोशल मीडिया उपयोग पर बहुत कम नियंत्रण प्रदर्शित करने के लिए कहा जाता है। 

TikTok पर EU रिपोर्ट को देखते हुए, आयोग ने कहा, "TikTok पर वर्तमान उपाय, विशेष रूप से स्क्रीनटाइम प्रबंधन उपकरण और माता-पिता नियंत्रण उपकरण, TikTok के नशे की लत वाले डिज़ाइन से उत्पन्न जोखिमों को प्रभावी ढंग से कम नहीं करते हैं... उन्हें खारिज करना आसान है और सीमित घर्षण पेश करते हैं।"

यह एक सोशल मीडिया प्लेटफ़ॉर्म की — न केवल TikTok — डिज़ाइन सुविधाओं (अनंत स्क्रॉल, ऑटोप्ले, पुश नोटिफिकेशन, एल्गोरिथमिक सिफारिशें) पर वापस जाता है जिन्हें अमेरिका और EU में तेजी से "नशे की लत" के रूप में वर्णित किया जा रहा है। 

यहां तक कि फिलीपींस में भी, "नशे की लत" और "बाध्यकारी उपयोग" शब्द पहले से ही कम से कम दो मसौदा विधेयकों में हैं। सीनेट बिल (SB) 185 एक सोशल मीडिया प्लेटफ़ॉर्म को एक प्लेटफ़ॉर्म के रूप में परिभाषित करता है जो एल्गोरिथमिक कंटेंट डिलीवरी का उपयोग करता है और "नशे की लत वाली सुविधाएं" रखता है। 

SB 601 प्लेटफ़ॉर्म को "बच्चे द्वारा SMP (सोशल मीडिया प्लेटफ़ॉर्म) के उपयोग को बढ़ाने, बनाए रखने या बढ़ाने वाली सुविधाओं को सीमित करने" का आदेश देता है जैसे कि मीडिया का स्वचालित खेल, प्लेटफ़ॉर्म पर बिताए गए समय के लिए पुरस्कार प्रणाली, नोटिफिकेशन, और अन्य सुविधाएं जो बाध्यकारी उपयोग में परिणत होती हैं। 

'एल्गोरिथ्म को धीमा करने का एक विकल्प'

TIME "स्वास्थ्य में 100 सबसे प्रभावशाली लोग" सम्मानित Laura Marquez-Garret, सिएटल स्थित सोशल मीडिया विक्टिम्स लॉ सेंटर में एक वकील, ने हाल ही में Democracy Now से बात की। उन्होंने कहा कि ये डिज़ाइन सुविधाएं वास्तव में "दोष" हैं, और इन्हें संबोधित किया जाना चाहिए, एक पूर्ण प्रतिबंध से कम। 

"और इसलिए अंततः इसे ठीक करना — और वे (सोशल मीडिया कंपनियां) यह जानते हैं; यह उनके दस्तावेजों में है जो सार्वजनिक हो रहे हैं — वे नशे की लत वाले तंत्र को हटा सकते हैं। यह उतना ही सरल है — अपने घर पर अपने टेलीविजन सेट के बारे में सोचें। हमारे पास यह रिमोट कंट्रोल है। हम वॉल्यूम को कम, बढ़ा सकते हैं, चैनल बदल सकते हैं। उन्होंने उन नियंत्रणों को बैक एंड पर रखा है। वे आपको एल्गोरिथ्म को धीमा करने का विकल्प दे सकते हैं," Marquez-Garret ने कहा। 

"तो वे सब से ऊपर जुड़ाव के लिए प्रोग्रामिंग कर रहे हैं... और कमजोर बच्चों के मामले में, यह घातक है," उन्होंने जोड़ा। 

वर्तमान परीक्षण, और दुनिया भर में सोशल मीडिया प्रतिबंध की प्रवृत्ति, तकनीकी कंपनियों के खिलाफ गति दिखाती है। 

बिग टेक सरकारी हस्तक्षेप के खिलाफ आक्रामक रूप से लॉबिंग कर रहा है

और यह वह गति है जिसके खिलाफ प्लेटफ़ॉर्म आक्रामक रूप से लॉबिंग कर रहे हैं।

वे जो चाहते हैं वह "सबसे कम बुरा विकल्प" है, कॉर्पोरेट यूरोप ऑब्जर्वेटरी के Bram Vranken ने, एक समूह जो कॉर्पोरेट लॉबिंग की निगरानी करता है, New York Times को बताया। 

"सबसे कम बुरा" विकल्प क्या है? 

Times ने रिपोर्ट किया: "इन कंपनियों को क्या पसंद है वे कानून हैं जो माता-पिता की आवश्यकता रखते हैं, सरकारों की नहीं, बच्चों की ऑनलाइन आदतों पर अंतिम निर्णय लेने के लिए... सिलिकॉन वैली के दिग्गज प्रतिबंध के विकल्प के लिए आक्रामक रूप से लॉबिंग कर रहे हैं।" 

प्रतिबंध के बजाय, कंपनियां EU में "डिजिटल बहुमत आयु" के लिए जोर दे रही हैं जो फिर से माता-पिता पर यह स्वीकृत करने की जिम्मेदारी डालता है कि उनके 15 या 16 वर्ष के बच्चे सोशल मीडिया का उपयोग कर सकते हैं या नहीं। 

वहां एक जीत ध्यान को एक बार फिर उनके प्लेटफ़ॉर्म के एल्गोरिथ्म और सुविधाओं से दूर कर देती है जो बाध्यकारी उपयोग की स्थितियां बनाती हैं — और एक प्रस्तावित डिजिटल फेयरनेस एक्ट से दूर जो अनंत स्क्रॉल, ऑटोप्ले, और जुड़ाव-आधारित सिफारिश पर प्रतिबंध लगाएगा। 

"इसके लिए संभवतः प्लेटफ़ॉर्म के जटिल पुनर्डिजाइन की आवश्यकता होगी और उनके मार्केटिंग मशीनों को बाधित करेगा," New York Times ने लिखा। 

वर्तमान में, फिलीपींस में, कंपनियां एक समान "आयु-उपयुक्त ढांचे" का समर्थन कर रही हैं — विभिन्न आयु समूहों के लिए अलग-अलग पहुंच नियम।

लेकिन यह "डिजिटल बहुमत आयु" से बहुत अलग नहीं लगता है कि जिम्मेदारी माता-पिता पर लागू करने की है, और इसके लिए आयु सत्यापन प्रक्रियाओं के रोजगार की आवश्यकता होगी जो हमेशा लागू करने में आसान नहीं होती हैं बजाय कहे गए मुख्य डिज़ाइन सुविधाओं को संबोधित करने के।

तो शायद यहां भी ध्यान नशे की लत वाली सुविधाओं पर ही हो सकता है।

Facebook व्हिसलब्लोअर Frances Haugen ने Democracy Now को बताया: "जब आपके पास बच्चे हैं जिनके दिमाग इतनी कम उम्र में पूरे दिन स्क्रॉल करने से डोपामाइन में भिगोए जा रहे हैं, तो यह कक्षा में शांत बैठने, अपने परिवार या दोस्तों के साथ आमने-सामने सार्थक रूप से बातचीत करने की उनकी क्षमता को बदल देता है... फिर भी वे इन प्लेटफ़ॉर्म पर अधिक से अधिक समय बिताने के लिए अनुकूलन करना जारी रखते हैं।"

प्लेटफ़ॉर्म जानते हैं कि यहां उनके लिए क्या दांव पर लगा है। अमेरिका के परीक्षण और EU जांच में क्या होता है, इसका वैश्विक स्तर पर प्लेटफ़ॉर्म पर प्रभाव पड़ सकता है।

एक ऐसी आबादी का सबूत है जो सोशल मीडिया व्यसन के प्रति कमजोर है चाहे वह कठिन पारिवारिक जीवन या व्यक्तिगत मानसिक स्वास्थ्य मुद्दों के कारण हो। यह भी सबूत है कि सुरक्षा उपाय उतने प्रभावी नहीं रहे हैं क्योंकि "नशे की लत" वाली सुविधाएं, बेहतर शब्दों की कमी के लिए, अभी भी अधिक शक्तिशाली हैं। 

और उन सबके बीच, प्लेटफ़ॉर्म अभी भी माता-पिता के कंधों पर जिम्मेदारी रखने के लिए लॉबिंग कर रहे हैं बजाय हमें "एल्गोरिथ्म को धीमा करने" का विकल्प देने के। माता-पिता, परिवारों को अधिक मदद की आवश्यकता है।  – Rappler.com