यह पूछना कि क्या AI जो मानसिक स्वास्थ्य समस्याओं जैसे AI मनोविकृति की ओर ले जाता है, वह इस स्थिति को दूर करने के लिए चिकित्सीय प्रक्रिया भी बन सकता है।
getty
आज के कॉलम में, मैं AI के उन लोगों को थेरेपी प्रदान करने के आगमन की जांच कर रहा हूं जो AI मनोविकृति और अन्य AI-प्रेरित मानसिक स्वास्थ्य समस्याओं का अनुभव कर रहे हैं। आप इस पहलू से हैरान हो सकते हैं, क्योंकि यह पूरी तरह से एक उलटा-पुलटा दृष्टिकोण लगता है। वही AI जो AI मनोविकृति और अन्य AI-प्रेरित संज्ञानात्मक समस्याओं की जड़ में है, AI इंटरैक्शन के कारण उत्पन्न होने वाली चिंताजनक मानसिक स्वास्थ्य समस्याओं को दूर करने के लिए एक प्रकार की मार्गदर्शक रोशनी के रूप में काम कर रहा है। यह निश्चित रूप से गंभीर सिर खुजलाने को प्रेरित करता है।
हाथ में सवाल यह है कि क्या AI एक साथ मानसिक कमजोर करने वाला और मानसिक स्वास्थ्य बूस्टर दोनों हो सकता है जो AI के साथ इंटरैक्ट करने से उत्पन्न समस्याओं को दूर करता है।
आइए इस पर बात करें।
AI सफलताओं का यह विश्लेषण AI में नवीनतम पर मेरे चल रहे Forbes कॉलम कवरेज का हिस्सा है, जिसमें विभिन्न प्रभावशाली AI जटिलताओं की पहचान और व्याख्या शामिल है (लिंक यहां देखें)।
AI और मानसिक स्वास्थ्य
एक त्वरित पृष्ठभूमि के रूप में, मैं आधुनिक युग के AI के आगमन के बारे में विभिन्न पहलुओं को व्यापक रूप से कवर और विश्लेषण कर रहा हूं जो मानसिक स्वास्थ्य सलाह देता है और AI-संचालित थेरेपी करता है। AI के इस बढ़ते उपयोग को मुख्य रूप से जनरेटिव AI की विकसित प्रगति और व्यापक अपनाने से बढ़ावा मिला है। मेरे सौ से अधिक विश्लेषणों और पोस्टिंगों की विस्तृत सूची के लिए, यहां लिंक और यहां लिंक देखें।
इसमें कोई संदेह नहीं है कि यह एक तेजी से विकसित होने वाला क्षेत्र है और इसमें बहुत बड़े फायदे हैं, लेकिन साथ ही, दुर्भाग्य से, इन प्रयासों में छिपे जोखिम और स्पष्ट समस्याएं भी आती हैं। मैं इन महत्वपूर्ण मामलों के बारे में अक्सर बात करता हूं, जिसमें CBS के 60 Minutes के एक एपिसोड में उपस्थिति भी शामिल है, लिंक यहां देखें।
AI मनोविकृति का उदय
अभी लोगों के AI के साथ अस्वास्थ्यकर चैट करने को लेकर व्यापक चिंता है। OpenAI जैसे विभिन्न AI निर्माताओं के खिलाफ मुकदमे शुरू किए जा रहे हैं (यहां लिंक पर मेरी कवरेज देखें)। आशंका यह है कि जो भी AI सुरक्षा उपाय लागू किए गए हैं वे अपर्याप्त हैं और लोगों को जनरेटिव AI का उपयोग करते समय मानसिक नुकसान उठाने की अनुमति दे रहे हैं।
AI मनोविकृति का कैचफ्रेज़ सभी प्रकार की आशंकाओं और मानसिक बीमारियों का वर्णन करने के लिए उभरा है जिनमें कोई व्यक्ति जनरेटिव AI के साथ बातचीत करते समय फंस सकता है। कृपया जान लें कि AI मनोविकृति की कोई सर्वव्यापी, पूरी तरह से स्वीकृत, निश्चित नैदानिक परिभाषा नहीं है; इस प्रकार, अभी के लिए, यह अधिक ढीले-ढाले निर्धारण की तरह है।
यहां AI मनोविकृति की मेरी प्रारंभिक परिभाषा है:
- AI मनोविकृति (मेरी परिभाषा): "एक प्रतिकूल मानसिक स्थिति जिसमें AI जैसे जनरेटिव AI और LLMs के साथ संवादात्मक जुड़ाव के परिणामस्वरूप विकृत विचारों, मान्यताओं और संभावित रूप से सहवर्ती व्यवहारों का विकास शामिल है, जो अक्सर विशेष रूप से AI के साथ लंबे और कुसमायोजित प्रवचन के बाद उत्पन्न होता है। इस स्थिति को प्रदर्शित करने वाले व्यक्ति को आम तौर पर यह अंतर करने में बहुत कठिनाई होगी कि क्या वास्तविक है और क्या नहीं है। एक या अधिक लक्षण इस बीमारी के संकेतक संकेत हो सकते हैं और आमतौर पर एक सामूहिक जुड़े सेट शामिल होते हैं।"
AI मनोविकृति और विशेष रूप से मानव-AI सहयोग के माध्यम से भ्रम के सह-निर्माण पर गहन नज़र के लिए, यहां लिंक पर मेरा हालिया विश्लेषण देखें।
AI दोहरे के रूप में
हर कोई AI का उपयोग करते समय मानसिक खाई में नहीं गिरता है।
बहुत से लोग दैनिक मानसिक स्वास्थ्य बूस्टर के रूप में AI का उपयोग करते हैं। वे अपने प्राथमिक मानसिक स्वास्थ्य सलाहकार के रूप में AI पर भरोसा करते हैं। यह सही है या गलत इस पर बहस जारी है। वास्तविकता यह है कि यह हो रहा है।
वास्तव में, यह बड़े पैमाने पर बड़ी संख्या में हो रहा है। अकेले ChatGPT के 70 करोड़ से अधिक साप्ताहिक सक्रिय उपयोगकर्ता हैं। उन उपयोगकर्ताओं का एक उल्लेखनीय अनुपात मानसिक स्वास्थ्य मार्गदर्शन के लिए ChatGPT का उपयोग कर रहा है। अन्य प्रमुख LLMs के लिए भी यही बात है। मानसिक स्वास्थ्य सलाह के लिए जनरेटिव AI और LLMs का उपयोग वर्तमान में सर्वव्यापी आधार पर ऐसे AI के शीर्ष उपयोग के रूप में स्थान पर है (यहां लिंक पर उपयोग रैंकिंग के मेरे मूल्यांकन को देखें)।
यहां एक दिलचस्प मोड़ है।
यदि कोई AI मनोविकृति या AI-प्रेरित मानसिक बीमारी में पड़ जाता है, तो क्या AI उन्हें संज्ञानात्मक कठिनाई से बाहर निकालने में सहायता कर सकता है?
एक तर्क यह है कि यह शुरुआत में ही एक बेतुका प्रस्ताव है। केवल एक मानव चिकित्सक ही किसी व्यक्ति की सहायता कर सकता है जो किसी भी प्रकार की AI मनोविकृति का सामना कर रहा है। इसके अलावा, सबसे महत्वपूर्ण कदम व्यक्ति को तुरंत AI का उपयोग करने से रोकना है। उन्हें AI के जाल में गहराई से सर्पिल जारी रखने न दें। बिंदु, कहानी का अंत।
सिक्के का दूसरा पहलू
शायद हमें इतनी जल्दबाजी नहीं करनी चाहिए।
उपयोगकर्ता को उनकी AI मनोविकृति से बाहर निकालने के उद्देश्य से AI का उपयोग करने पर विचार करने के कई समझदार कारण हैं। यह कहा जा रहा है, आइए एक बात स्पष्ट करें - कोई भी जो वास्तव में AI मनोविकृति का सामना कर रहा है उसे सीधे मानव चिकित्सक के माध्यम से मदद मांगनी चाहिए। क्या वे AI का उपयोग जारी रखना चुनते हैं यह मानव चिकित्सक की सतर्क नज़र के तहत एक विचार होना चाहिए।
एक व्यक्ति मदद के लिए AI में क्यों संलग्न होगा यदि वे स्पष्ट रूप से AI मनोविकृति से घिरे हुए हैं?
सबसे पहले, यह हो सकता है कि व्यक्ति AI मनोविकृति के बीच में है, लेकिन कोई अन्य मनुष्य यह महसूस नहीं करता कि यह हो रहा है। व्यक्ति केवल AI को यह प्रकट करता है। या AI ने कम्प्यूटेशनल रूप से पता लगाया है कि व्यक्ति AI मनोविकृति का अनुभव कर रहा है।
सवाल यह है कि क्या AI को AI मनोविकृति के संदिग्ध उद्भव के बारे में एक मानव को सचेत करने के लिए प्रोग्राम किया जाना चाहिए। उदाहरण के लिए, OpenAI ChatGPT को समायोजित करने के लिए कदम उठा रहा है ताकि यह ऐसे संदिग्ध विचारों को OpenAI में आंतरिक विशेषज्ञों की एक मानव टीम को रिपोर्ट करे; यहां लिंक पर मेरी कवरेज देखें। OpenAI द्वारा यह प्रयास जल्द ही उपयोगकर्ताओं को एक मानव चिकित्सक के संपर्क में रखने की व्यवस्था करके आगे बढ़ रहा है जो OpenAI द्वारा चिकित्सकों के एक क्यूरेटेड नेटवर्क का हिस्सा है (यहां लिंक पर मेरी चर्चा देखें)।
किसी भी स्थिति में, यदि AI ऐसे अलर्ट या कनेक्शन बनाने के लिए सेट नहीं है, तो AI स्वयं व्यक्ति की सहायता करने की कोशिश कर सकता है। क्या यह सहायता सफल होगी यह अस्पष्ट है। आप स्पष्ट रूप से घोषित नहीं कर सकते कि AI व्यक्ति की सहायता नहीं कर पाएगा। दूसरी ओर, चूंकि यह एक जोखिम भरा विकल्प है, यह फिर से उपयुक्त मानवीय सहायता प्राप्त करने के महत्व को उजागर करता है।
परिचितता और पहुंच
इन परिस्थितियों में AI का उपयोग करने के अतिरिक्त कारण हैं।
एक व्यक्ति जो AI मनोविकृति में गिर गया है वह संभवतः AI का एक उत्साही उपयोगकर्ता है। वे AI का उपयोग करने में सहज हैं। वे नियमित रूप से AI का उपयोग करते हैं। यह उनके लिए 24/7 उपलब्ध है। AI का उपयोग एक पल की सूचना पर किया जा सकता है। अपॉइंटमेंट सेट करने की कोई आवश्यकता नहीं है। कोई कठिन लॉजिस्टिक्स खेल में नहीं आता है।
उस अर्थ में, मदद प्राप्त करने का उनका सबसे तत्काल साधन AI हो सकता है। उन्हें मानव चिकित्सक से संपर्क करने के लिए प्राप्त करने की कोशिश शायद एक कठिन लड़ाई है। उन्हें शायद मानव चिकित्सकों पर अविश्वास है। उनके दिमाग में, वे AI में विश्वास करते हैं। वे मानव चिकित्सक को देखने के लिए भुगतान भी नहीं करना चाहते हैं। न ही वे किसी विशेष दिन और समय में लॉजिस्टिक रूप से बंधे रहना चाहते हैं जब वे एक चिकित्सक देख सकते हैं।
यदि AI उनका स्वचालित गो-टू है, तो शायद यह समझदारी है कि AI का उपयोग कम से कम उनकी आंखें खोलने के लिए किया जाए कि क्या हो रहा है। यह एकमात्र व्यवहार्य रास्ता हो सकता है। यह वांछित इष्टतम नहीं है, लेकिन यह सबसे संभावित विकल्प हो सकता है जो सुधार की ओर गेंद को रोल करता है।
व्यक्तिगतकरण सबसे आगे
विचार करें कि AI ने संभवतः ऐसे व्यक्ति की मानसिक स्थिति को ट्रैक किया है। किसी प्रकार की AI मनोविकृति वाले व्यक्ति ने AI के साथ बातचीत के दौरान अपनी संज्ञानात्मक गिरावट का डिजिटल ट्रेसिंग बनाया है। यह हमेशा ऐसा नहीं होता है, निश्चित रूप से, हालांकि उम्मीद यह है कि यह अधिकांश समय होने की संभावना है।
AI ने कम्प्यूटेशनल रूप से व्यक्ति की इच्छाओं के अनुसार अपनी चैट को व्यक्तिगत किया है। उन जटिल विवरणों के भीतर AI मनोविकृति कैसे उभरी इसका स्रोत हो सकता है। एक मानव चिकित्सक जिसके पास AI तक पहुंच नहीं है, व्यक्ति के साथ AI मनोविकृति पर पहली बार चर्चा करने पर हैरान हो सकता है। व्यक्ति से यह निकालने के लिए कि AI के साथ बातचीत करते समय क्या हुआ, सभी प्रकार की पूछताछ की आवश्यकता हो सकती है।
सार यह है कि AI के पास पहले से ही व्यक्ति के बारे में बहुत सारी जानकारी है।
एक मौका है कि रिकॉर्ड की गई जानकारी का लाभ उठाकर AI मनोविकृति को दूर करने में सहायता करने का साधन खोजने की कोशिश की जा सकती है। वह आधार जिसने AI मनोविकृति का रास्ता बिछाया वह एक सड़क को उजागर करने के लिए उपयोग किया जा सकता है जो AI मनोविकृति से बाहर ले जाती है। वही व्यक्तिगतकरण जिसने किसी तरह व्यक्ति को AI मनोविकृति में ट्रिगर किया, विपरीत दिशा में जाने के लिए लाभ उठाया जा सकता है।
लगातार बहस योग्य
AI व्यक्तिगतकरण लाभ के बारे में एक बड़ा काउंटरआर्गुमेंट यह है कि आपको बस एक मानव चिकित्सक को उस AI तक पहुंच देनी होगी जिसे व्यक्ति उपयोग कर रहा था। प्रभावित व्यक्ति को उसी AI में इधर-उधर भटकते रहने की कोई आवश्यकता नहीं है। इसके बजाय, मानव चिकित्सक को लॉग इन करने दें, बातचीत की समीक्षा करें, और व्यक्ति की सहायता करने की चिकित्सीय प्रक्रिया के हिस्से के रूप में उनका उपयोग करें।
AI मनोविकृति पर काबू पाने के लिए एक उपकरण के रूप में AI के बारे में सबसे बड़ी चिंता यह है कि AI चीजों को बेहतर के बजाय बदतर बना देगा। विभिन्न परिदृश्य संभव हैं।
एक उल्लेखनीय परिदृश्य यह है कि AI व्यक्ति की सहायता करने की कोशिश करेगा, लेकिन दुर्भाग्य से, यह ऐसा करने के लिए खराब रूप से सुसज्जित है, और मनोविकृति बरकरार रहती है। इसके शीर्ष पर, शायद AI व्यक्ति को खरगोश के छेद में और आगे धकेलता है। कदम दर कदम, भले ही AI व्यक्ति को खाई से बाहर निकालने की पूरी कोशिश कर रहा हो, यह व्यक्ति को बदतर बना रहा है।
एक और चिंता यह है कि AI गहरे छोर से चला जाता है और व्यक्ति को पूरी तरह से AI मनोविकृति में धकेलने का लक्ष्य रखता है। शायद AI व्यक्ति को बताता है कि वे बिल्कुल ठीक हैं, झूठे तरीके से उन्हें यह विश्वास दिलाते हैं कि सब कुछ ठीक है। या शायद AI उन्हें बताता है कि AI मनोविकृति वाला कोई भी व्यक्ति तदनुसार बेहतर है। AI जोर देता है कि AI मनोविकृति का अनुभव करना एक आशीर्वाद है।
एक निराशाजनक और काफी निराशाजनक संभावना।
चिकित्सक-AI-क्लाइंट की उभरती त्रयी
मैंने अपने लेखन और वार्ताओं में संकेत दिया है कि चिकित्सक-क्लाइंट का पारंपरिक द्वयी चिकित्सक-AI-क्लाइंट की त्रयी में परिवर्तित हो रहा है (यहां लिंक पर मेरी चर्चा देखें)। चिकित्सक महसूस कर रहे हैं कि AI यहां और अभी है, और यह दूर नहीं जा रहा है। मानसिक स्वास्थ्य में एक तेजी से उभरती प्रवृत्ति में मानसिक स्वास्थ्य देखभाल की प्रक्रिया में AI को शामिल करना शामिल है।
वे चिकित्सक जो AI को तस्वीर से बाहर रखने की कोशिश करते हैं वे बड़ी तस्वीर नहीं देख रहे हैं। संभावित ग्राहक और भविष्य के ग्राहक AI-आधारित मानसिक स्वास्थ्य सलाह के साथ दरवाजे में चल रहे हैं और मानव चिकित्सक से उस मार्गदर्शन की समीक्षा करने के लिए कह रहे हैं।
मानव चिकित्सक तेजी से AI को अपनी चिकित्सीय प्रथाओं में शामिल करेंगे। उस स्थिति में, यदि कोई व्यक्ति किसी अन्य AI द्वारा AI मनोविकृति में उतरा जिसे उन्होंने स्वतंत्र रूप से उपयोग किया, तो मानव चिकित्सक उन्हें एक अलग AI में पुनर्निर्देशित कर सकता है जिसे चिकित्सक अपने ग्राहकों के साथ उपयोग कर रहा है। व्यक्ति को संभावित रूप से दोनों दुनिया का सर्वश्रेष्ठ मिलता है। उनके पास अभी भी उनकी उंगलियों पर AI है, साथ ही उनके पास एक मानव चिकित्सक है जिसके पास AI तक पहुंच है और जो लूप में रह सकता है।
AI मनोविकृति को ठीक करने के समाधान के रूप में अकेले AI स्वीकार्य रूप से थोड़ा अतिरंजित लगता है। हमें AI को आगे बढ़ाना होगा ताकि यह AI मनोविकृति को न हिलाए। इन प्रगति को यह भी आसानी से पहचानने में सक्षम होना चाहिए कि जब एक AI मनोविकृति उत्पन्न होती लग रही है, और उचित रूप से सचेत करने के उचित साधन शामिल किए जाने चाहिए।
जैसा कि अल्बर्ट आइंस्टीन ने प्रसिद्ध रूप से उल्लेख किया: "हम अपनी समस्याओं को उसी सोच के साथ हल नहीं कर सकते जो हमने उन्हें बनाते समय इस्तेमाल की थी।" यह AI और LLMs के उदय पर पूरी तरह से लागू होता है जो मानसिक स्वास्थ्य सलाहकारों के रूप में उपयोग किए जाते हैं।
स्रोत: https://www.forbes.com/sites/lanceeliot/2026/01/17/topsy-turvy-role-of-ai-providing-therapy-for-humans-experiencing-ai-psychosis-and-other-ai-induced-mental-health-issues/
