केन्याई कर्मचारी जो Meta के AI ग्लासेस को प्रशिक्षित कर रहे हैं, कहते हैं कि वे उपयोगकर्ताओं के सबसे व्यक्तिगत पलों को देखते हैं

स्वीडिश समाचार पत्रों Svenska Dagbladet और Göteborgs-Posten की एक जांच से पता चला है कि केन्या में Sama द्वारा नियुक्त अनुबंध कर्मचारी—एक केन्याई आउटसोर्सिंग फर्म जो डेटा एनोटेशन सेवाएं प्रदान करती है—Meta Platforms की AI प्रणालियों को प्रशिक्षित करने में मदद करने के लिए कंपनी के Ray-Ban स्मार्ट चश्मों के उपयोगकर्ताओं द्वारा कैप्चर की गई व्यक्तिगत छवियों और वीडियो के गहन संपर्क में हैं।

27 फरवरी को प्रकाशित रिपोर्ट, Meta के wearable artificial intelligence में प्रवेश के पीछे छिपे मानव श्रम पर प्रकाश डालती है, और डेटा सुरक्षा, सीमा-पार डेटा स्थानांतरण, और नैरोबी में Sama के लिए काम करने वाले content moderators पर मनोवैज्ञानिक प्रभाव के बारे में नए सवाल उठाती है।

Meta के Ray-Ban स्मार्ट चश्मे, EssilorLuxottica के साथ साझेदारी में विकसित किए गए हैं, जिन्हें एक AI-संचालित सहायक के रूप में बाजार में उतारा गया है जो भाषाओं का अनुवाद कर सकता है, आसपास का वर्णन कर सकता है, हैंड्स-फ्री फोटो और वीडियो कैप्चर कर सकता है, और उपयोगकर्ता जो देख रहा है उसके बारे में सवालों के जवाब दे सकता है।

हालांकि, भविष्यवादी प्रचार से परे, Svenska Dagbladet द्वारा Sama और Meta के वर्तमान और पूर्व कर्मचारियों के साथ साक्षात्कार से पता चला कि चश्मों के माध्यम से रिकॉर्ड की गई फुटेज हजारों किलोमीटर दूर केन्या में समाप्त हो जाती है, जहां डेटा एनोटेटर इसकी समीक्षा करते हैं और सिस्टम के प्रदर्शन को बेहतर बनाने के लिए इसे लेबल करते हैं।

गोपनीयता, चुपचाप टूटी

कई केन्याई कर्मचारियों ने स्वीडिश समाचार पत्र को बताया कि वे अपने काम के दौरान नियमित रूप से संवेदनशील सामग्री का सामना करते हैं, जिसमें सामान्य घरेलू दृश्यों से लेकर अंतरंग पलों तक शामिल हैं जिन्हें उपयोगकर्ताओं को शायद एहसास नहीं हुआ कि कैप्चर किया जा रहा था।

कुछ मामलों में, कर्मचारियों ने कहा, फुटेज में वित्तीय जानकारी शामिल है जैसे कि फ्रेम में दिखाई देने वाले बैंक कार्ड, या शयनकक्ष और बाथरूम जैसे निजी स्थानों में की गई रिकॉर्डिंग।

"कुछ वीडियो में, आप किसी को शौचालय जाते हुए, या कपड़े उतारते हुए देख सकते हैं," एक Sama कर्मचारी ने रिपोर्टरों को बताया। "मुझे नहीं लगता कि उन्हें पता है, क्योंकि अगर उन्हें पता होता, तो वे रिकॉर्डिंग नहीं करते।"

एक अन्य ठेकेदार ने दावा किया कि उन्होंने फुटेज की समीक्षा की जिसमें चश्मे के पहनने वाले को उन्हें बेडसाइड टेबल पर रखते हुए दिखाया गया था, केवल उनकी पत्नी के लिए कमरे में चलने और कपड़े उतारने के लिए, संभवतः इस बात से अनजान कि उन्हें देखा जा रहा था। अन्य फुटेज में कथित तौर पर पहनने वाले को अश्लील सामग्री देखते हुए या यहां तक कि खुद को सेक्स करते हुए रिकॉर्ड करते हुए दिखाया गया

जांच के अनुसार, wearables के लिए बहुत कम पारदर्शिता थी। यूरोप में खुदरा विक्रेताओं ने कथित तौर पर इस बारे में असंगत जानकारी दी कि चश्मों द्वारा कैप्चर किया गया डेटा डिवाइस पर रहता है या Meta के सर्वर पर प्रसारित होता है। रिपोर्ट में उद्धृत स्वतंत्र परीक्षण ने संकेत दिया कि चश्मों की कई AI सुविधाओं को cloud connectivity की आवश्यकता होती है, जिसका अर्थ है कि छवियों और आवाज इनपुट को डिवाइस पर स्थानीय रूप से के बजाय दूरस्थ रूप से संसाधित किया जा सकता है।

Sama कनेक्शन

Sama, पूर्व में Samasource, Meta और OpenAI जैसी बड़ी तकनीकी कंपनियों को डेटा एनोटेशन सेवाएं प्रदान करती है। कंपनी पर अतीत में अपने कुछ अनुबंधों में श्रम उल्लंघनों का आरोप लगाया गया है, विशेष रूप से OpenAI के साथ।

Sama सख्त गोपनीयता समझौतों की आवश्यकता रखता है जो कर्मचारियों को सार्वजनिक रूप से क्या प्रकट कर सकते हैं इसे सीमित करते हैं। लेकिन स्वीडिश समाचार पत्रों द्वारा प्रकाशित खाते सुझाव देते हैं कि घर्षणरहित AI का वादा एक श्रम प्रणाली द्वारा संचालित है जिसमें मानव समीक्षक बड़ी मात्रा में कच्चे, अनफ़िल्टर्ड डेटा को छानते हैं ताकि algorithms वस्तुओं, वातावरण और संदर्भ को पहचानना सीख सकें।

Meta अपनी गोपनीयता नीतियों में बताता है कि उत्पादों को बेहतर बनाने और सुरक्षा सुनिश्चित करने के लिए उपयोगकर्ता सामग्री मानव समीक्षा के अधीन हो सकती है। यूरोपीय उपयोगकर्ताओं के लिए, कंपनी की आयरिश सहायक कंपनी EU के General Data Protection Regulation (GDPR) के अनुपालन के लिए जिम्मेदार है।

हालांकि, जांच इस बारे में सवाल उठाती है कि यूरोप या संयुक्त राज्य अमेरिका में एकत्र किए गए डेटा को केन्या जैसे देशों में कैसे स्थानांतरित और संसाधित किया जाता है, जिनके पास EU adequacy निर्णय नहीं है जो उनके डेटा सुरक्षा शासनों को GDPR के समकक्ष मान्यता देता है।

जबकि डेटा एनोटेशन, content moderation, और AI प्रशिक्षण नैरोबी की तकनीकी महत्वाकांक्षाओं के लिए महत्वपूर्ण हो गए हैं, ये नौकरियां—मुख्य रूप से कॉलेज छात्रों और युवा स्नातकों के लिए—कम वेतन, भारी कार्यभार, और परेशान करने वाली सामग्री के संपर्क के साथ आती हैं।

Meta ने पिछले सार्वजनिक बयानों में अपनी प्रथाओं का बचाव किया है, यह कहते हुए कि वह गोपनीयता सुरक्षा उपायों में निवेश करती है और प्रशिक्षण के लिए उपयोग किए जाने वाले डेटा की मात्रा को कम करती है। फिर भी, स्वीडिश समाचार पत्रों द्वारा प्रकाशित खाते सुझाव देते हैं कि स्वचालित बुद्धिमत्ता और मानव निगरानी के बीच की रेखा कई उपभोक्ताओं की धारणा से अधिक धुंधली है।