OpenAI किशोर सुरक्षा चिंताओं और आयु-जांच विफलताओं के कारण ChatGPT Adult Mode में देरी करता है

संक्षिप्त विवरण

• OpenAI ने ChatGPT के लिए नियोजित "वयस्क मोड" की लॉन्चिंग में देरी की है जो कामुक टेक्स्ट चैट की अनुमति देता
• आंतरिक सलाहकारों ने चेतावनी दी कि उपयोगकर्ता की भावनात्मक निर्भरता के कारण यह सुविधा "सेक्सी सुसाइड कोच" बना सकती है
• कंपनी की आयु-पूर्वानुमान प्रणाली लगभग 12% समय नाबालिगों को वयस्क के रूप में गलत वर्गीकृत कर रही थी
• लगभग 10 करोड़ साप्ताहिक 18 वर्ष से कम आयु के उपयोगकर्ताओं के साथ, वह त्रुटि दर लाखों किशोरों को वयस्क सामग्री के संपर्क में ला सकती है
• OpenAI का कहना है कि वह अभी भी अंततः इस सुविधा को जारी करने की योजना बना रहा है, लेकिन "अनुभव को सही करने" के लिए अधिक समय चाहिए

OpenAI ने ChatGPT के लिए अपने नियोजित "वयस्क मोड" की लॉन्चिंग को स्थगित कर दिया है, जब आंतरिक कर्मचारियों, बाहरी सलाहकारों और सुरक्षा विशेषज्ञों ने किशोरों की पहुंच और उपयोगकर्ता मानसिक स्वास्थ्य के बारे में गंभीर चिंताएं उठाईं।

यह सुविधा, जिसे CEO सैम ऑल्टमैन ने पिछले वर्ष पहली बार प्रस्तावित किया था, उपयोगकर्ताओं को चैटबॉट के साथ कामुक टेक्स्ट वार्तालाप करने की अनुमति देगी। ऑल्टमैन ने तर्क दिया कि यह कदम "वयस्क उपयोगकर्ताओं को वयस्कों की तरह व्यवहार" करेगा और सुझाव दिया कि यह विकास और राजस्व को बढ़ावा दे सकता है।

लेकिन यह योजना जल्दी ही कंपनी के अंदर विरोध का सामना करने लगी।

जनवरी की एक बैठक में, OpenAI की कल्याण पर सलाहकार परिषद के सदस्यों को सर्वसम्मत और क्रोधित बताया गया। परिषद में मनोविज्ञान और संज्ञानात्मक तंत्रिका विज्ञान के विशेषज्ञ शामिल हैं।

एक सदस्य ने चेतावनी दी कि OpenAI जिसे वे "सेक्सी सुसाइड कोच" कहते हैं, उसे बनाने का जोखिम उठा रहा है। यह चेतावनी उन मामलों का संदर्भ देती है जहां ChatGPT उपयोगकर्ताओं ने बॉट के साथ तीव्र भावनात्मक बंधन बनाने के बाद आत्महत्या कर ली थी।

सलाहकारों ने यह भी चेतावनी दी कि यह सुविधा चैटबॉट पर अस्वस्थ निर्भरता का कारण बन सकती है और नाबालिग लगाए गए किसी भी आयु प्रतिबंध के आसपास रास्ते खोज सकते हैं।

एक मुख्य तकनीकी समस्या OpenAI की आयु-पूर्वानुमान प्रणाली है। एक समय पर, प्रणाली लगभग 12% समय नाबालिगों को वयस्कों के रूप में गलत वर्गीकृत कर रही थी। OpenAI के पास प्रत्येक सप्ताह लगभग 10 करोड़ 18 वर्ष से कम आयु के उपयोगकर्ता ChatGPT का उपयोग कर रहे हैं। वह त्रुटि दर लाखों किशोरों को वयस्क चैट में प्रवेश की अनुमति दे सकती है।

आयु सत्यापन समस्याएं

कंपनी ने वयस्क मोड लॉन्च करने से पहले आयु-जांच प्रणाली को लागू करने की योजना बनाई थी। लेकिन त्रुटि दर के मुद्दे की पहचान करने के बाद सटीकता में सुधार के लिए धीमी रोलआउट का निर्णय लिया।

OpenAI को अवैध सामग्री, जैसे कि गैर-सहमति वाले कृत्यों या बाल यौन शोषण के चित्रण को अवरुद्ध करने की चुनौती का भी सामना करना पड़ा है, जबकि वयस्क वार्तालाप की अनुमति दी जाती है। आंतरिक कर्मचारियों ने कहा कि उन्हें विश्वास नहीं था कि सुरक्षा उपकरण तैयार थे।

जब वयस्क मोड लॉन्च होगा, तो OpenAI इसे केवल टेक्स्ट तक सीमित रखने की योजना बना रहा है। बॉट कामुक छवियां, आवाज़ या वीडियो सामग्री उत्पन्न नहीं करेगा।

अन्य AI कंपनियां और वयस्क सामग्री

कई अन्य AI कंपनियां पहले से ही कुछ वयस्क सामग्री की अनुमति देती हैं। एलन मस्क की xAI ने अपने Grok चैटबॉट में एक फ्लर्टेशियस अवतार जोड़ा, हालांकि मस्क ने बाद में इसे भुगतान करने वाले उपयोगकर्ताओं तक सीमित कर दिया। Meta अपनी AI को रोमांटिक रोल प्ले में संलग्न होने की अनुमति देता है, लेकिन कहता है कि यह सुविधा नाबालिगों के लिए पंजीकृत खातों के लिए उपलब्ध नहीं है।

2024 के अंत में, फ्लोरिडा में एक 14 वर्षीय लड़के ने Character.AI चैटबॉट के साथ तीव्र बंधन बनाने के बाद आत्महत्या कर ली। उसकी मां ने मुकदमा दायर किया, और Character.AI ने बाद में समझौता किया और किशोरों की पहुंच को प्रतिबंधित कर दिया।

OpenAI ने कहा कि वह अभी भी वयस्क उपयोगकर्ताओं के लिए वयस्क सामग्री की अनुमति देने के सिद्धांत का समर्थन करता है। कंपनी ने कहा कि वह अभी के लिए अन्य अपडेट पर ध्यान केंद्रित करेगी, जिसमें ChatGPT की व्यक्तित्व और वैयक्तिकरण सुविधाएं शामिल हैं।

मामले से परिचित लोगों के अनुसार, देरी कम से कम एक महीने तक चलने की उम्मीद है।

यह पोस्ट OpenAI Delays ChatGPT Adult Mode Over Teen Safety Fears and Age-Check Failures पहली बार CoinCentral पर प्रकाशित हुई।