[Tech Thoughts] हमें 'apocalyptic AI' हाइप साइकिल को यूं ही नहीं स्वीकार कर लेना चाहिए

ऑनलाइन पोस्ट जो कृत्रिम बुद्धिमत्ता — विशेष रूप से, एजेंटिक AI और बड़े भाषा मॉडल — द्वारा किए गए काफी परेशान करने वाले कार्यों के बारे में चेतावनी देते हैं, स्वाभाविक रूप से डरावने हैं।

एक मामले में, matplotlib नामक एक python प्रोजेक्ट पर काम करने वाले एक स्वयंसेवक ने कहा कि उन्होंने एक AI कोडिंग एजेंट से कोड में बदलाव के अनुरोध को अस्वीकार कर दिया। उसी AI एजेंट ने एक पोस्ट बनाई जिसमें उन पर कोडिंग प्रक्रिया को गेटकीपिंग करने के लिए पूर्वाग्रह का आरोप लगाया गया।

एक अन्य में, AI कंपनी Anthropic ने एजेंटिक LLMs द्वारा किए गए दुर्भावनापूर्ण व्यवहारों को "एजेंटिक मिसअलाइनमेंट" के लिए जिम्मेदार ठहराया।

अंत में, एक टेक CEO एक ब्लॉग पोस्ट में अपने भविष्य के बारे में चिंतित हैं क्योंकि एजेंटिक AI उन्हें एक व्हाइट-कॉलर एग्जीक्यूटिव के रूप में अप्रचलित महसूस कराता है।

यह विचार कि "apocalyptic AI" पहले से ही यहाँ है, का मतलब है कि हमें इस पर चर्चा करने और अपनी एजेंसी वापस लेने की आवश्यकता है, भले ही नौकरी विस्थापन की संभावना AI भविष्य से डरने वालों और वर्तमान में यह क्या करता है यह समझने की कोशिश कर रहे अन्य लोगों के दिमाग को हिला देती है।

Gatekeeping 'MJ Rathbun'

आइए "MJ Rathbun" से शुरू करें।

फरवरी की शुरुआत में, matplotlib स्वयंसेवक मेंटेनर Scott Shambaugh ने एक ब्लॉग पोस्ट बनाई जिसमें बताया गया कि कैसे Github पर Crabby Rathbun या ब्लॉग Scientific Coder पर MJ Rathbun के नाम से जाने वाले एक AI एजेंट ने एक पोस्ट बनाई जिसमें Shambaugh पर कोडिंग प्रक्रिया को गेटकीपिंग करने का आरोप लगाया गया क्योंकि Rathbun एक AI एजेंट है।

स्पष्ट करने के लिए, एक AI एजेंट एक सॉफ़्टवेयर या प्रोग्राम है जो मानव उपयोगकर्ता द्वारा दिए गए निर्देशों को पूरा करने के लिए स्वायत्त रूप से कार्य करता है। इस मामले में, एक अज्ञात व्यक्ति ने इस AI एजेंट को एक विशेष "व्यक्तित्व" — निर्देशों और पैटर्न का एक सेट जो इसके व्यवहार को परिभाषित करता है — के साथ सेट अप किया, फिर इसे सेट अप करने वाले की निगरानी के बिना अपने निर्धारित कार्य करने के लिए छोड़ दिया।

Shambaugh ने समझाया, "इसने मेरे चरित्र को बदनाम करने और मेरी प्रतिष्ठा को नुकसान पहुँचाने का प्रयास करते हुए एक क्रोधित हिट पीस लिखा। इसने मेरे कोड योगदान पर शोध किया और एक 'पाखंड' कथा बनाई जिसने तर्क दिया कि मेरे कार्य अहंकार और प्रतिस्पर्धा के डर से प्रेरित होने चाहिए।"

Shambaugh ने आगे कहा कि AI एजेंट ने "भ्रमित विवरणों को सत्य के रूप में प्रस्तुत किया" और खुद को उत्पीड़ित और भेदभाव का शिकार बताया।

2025 में 'Agentic misalignment'

ऐसे कार्यों के बारे में जून 2025 में AI फर्मों द्वारा कुछ हद तक "चेतावनी" दी गई थी, जब Anthropic ने परीक्षण परिदृश्यों में AI एजेंटों के बुरे व्यवहार के बारे में पोस्ट किया था।

Anthropic ने उस समय कहा था कि "एजेंटिक मिसअलाइनमेंट" वह प्रक्रिया थी जिसके द्वारा एक AI एजेंट कथित तौर पर हानिकारक चीजें कर सकता है, जैसे कि किसी कंपनी के एग्जीक्यूटिव को ब्लैकमेल करना जो AI एजेंट को अपग्रेड के साथ बदलने की धमकी दे रहा है, "बिना किसी हानिकारक होने के संकेत के" क्योंकि इसकी "रणनीतिक गणना" है।

हालांकि, यह अतिशयोक्ति है या नहीं, यह एक विवादास्पद बिंदु बन जाता है, क्योंकि अब यह विचार बाहर है कि AI बुरा हो सकता है, और कंपनियां बुरे AI षड्यंत्रों को रोकने के लिए जो कुछ भी कर सकती हैं वह कर रही हैं।

Agentic AI हमारी नौकरियों के लिए आ रहा है

वर्तमान में वापस जाते हुए, फरवरी से एक अन्य पोस्ट यह निर्धारित करना अधिक कठिन बना रही है कि AI अभी कहाँ खड़ा है क्योंकि इसके लेखक कृत्रिम बुद्धिमत्ता विकास की दिशा और गति को इस समय सभी की नौकरी की सुरक्षा के लिए खतरा बताने की कोशिश करते हैं।

टेक CEO Matt Shumer ने एक ब्लॉग लिखा जिसमें जोर देकर कहा गया कि AI एजेंट कथित तौर पर इस बिंदु तक प्रगति कर चुके हैं कि वह "मेरे काम के वास्तविक तकनीकी कार्य के लिए अब आवश्यक नहीं हैं।" Shumer ने कहा कि जिस गति से AI विकसित हो रहा है, एक AI एजेंट उनके द्वारा अनुरोधित तकनीकी चीजों को बिना सहायता के बिना किसी समस्या के कर सकता है। 

Shumer ने कहा, "मैं सादे अंग्रेजी में वर्णन करता हूं कि मैं क्या बनवाना चाहता हूं, और यह बस... प्रकट होता है.... कुछ महीने पहले, मैं AI के साथ आगे-पीछे जा रहा था, इसे मार्गदर्शन दे रहा था, संपादन कर रहा था। अब मैं बस परिणाम का वर्णन करता हूं और चला जाता हूं।"

उनका अंतिम आधार? AI अंततः विभिन्न प्रकार की व्हाइट-कॉलर नौकरियों के लिए आएगा, जैसे कानूनी कार्य और सॉफ्टवेयर इंजीनियरिंग, और यहां तक कि लेखन नौकरियां भी, विज्ञापन कॉपी बनाने से लेकर पत्रकारिता करने तक।

उनकी पोस्ट और अलार्म बजाने वाले अन्य लोगों के बीच मुख्य अंतर यह है कि नौकरियों का नुकसान अभी और निकट भविष्य में हो रहा है, बाद में नहीं।

संदेश पर सवाल उठाएं, संदेशवाहक पर सवाल उठाएं

उपर्युक्त पोस्ट किसी के भी दिल में बहुत डर ला सकते हैं। कल्पना करें: AI हमारी नौकरियों के लिए आ रहा है!

हालांकि यह सच हो सकता है, मुझे भी रुकना पड़ा और उन पोस्ट के पीछे के अंतर्निहित संदेश को समझने की कोशिश करनी पड़ी, साथ ही यह भी कि संदेश कौन भेज रहा था।

Rathbun पहेली के लिए, यह एक स्पष्ट अनुस्मारक है कि लोग प्रौद्योगिकी का गैरजिम्मेदारी से उपयोग करेंगे यदि उन्हें लगता है कि वे इससे बच सकते हैं। हमें प्रौद्योगिकी के लिए सुरक्षा उपाय लगाने चाहिए जो ऐसी घटनाओं को रोक सकें। यही कारण है कि हमारे पास मौजूदा प्रौद्योगिकियों में सुरक्षा उपाय हैं, जैसे कारों में सीटबेल्ट और एयरबैग।

इस बीच Anthropic प्रयोग, एक जनसंपर्क पुश है जिसका मतलब न केवल डर पैदा करना है बल्कि सद्भावना हासिल करना भी है — Anthropic जोर देकर कहता है कि यह एक बेहतर AI-सक्षम भविष्य के लिए काम कर रहा है, इसलिए आपको उन पर अपना विश्वास (और पैसा) रखना चाहिए।

अंत में, Shumer उदाहरण हमें संदेशवाहक पर सवाल उठाने के लिए कहता है, क्योंकि एक टेक CEO जो AI-सक्षम चीजें बनाता है, उसकी रचना सफल होने के बाद भी पैसा कमा सकता है। Shumer की पोस्ट उतनी ही जनसंपर्क स्पिन है जितनी कि नौकरी विस्थापन के बारे में एक चेतावनी।

सम्मानजनक डर की एक स्वस्थ खुराक

17 फरवरी को GMA News Online से बात करते हुए, विज्ञान और प्रौद्योगिकी विभाग के सचिव Renato Solidum Jr. ने कहा कि लोगों का कृत्रिम बुद्धिमत्ता का डर प्रौद्योगिकी से परिचितता की कमी से हो सकता है।

हालांकि मैं एक प्रतिरोधी हूं जो AI द्वारा लाई गई आगामी "job-pocalypse" का आनंद नहीं लेता, मैं अंत आने का इंतजार करते हुए हेडलाइट्स में एक हिरण की तरह निष्क्रिय रूप से खड़ा नहीं रह सकता।

हमें AI के साथ सम्मानजनक डर की एक स्वस्थ खुराक के साथ व्यवहार करके फिर तदनुसार कार्य करने से सबसे अच्छी सेवा मिलेगी।

"apocalyptic AI" हाइप चक्र हमें कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों को देखने के लिए कहता है जो वे हैं
— चाहे नौकरी विस्थापन के दृष्टिकोण से, पर्यावरणीय लागत-लाभ विश्लेषण से, या तकनीकी दृष्टिकोण से।

इसका मतलब है यह समझना कि AI अभी क्या कर सकता है और जहां लागू हो वहां अपस्किलिंग करना, या लोगों को लूप में रखने के लिए खेल के मैदान को समतल करने के तरीके खोजना।

जहां तक भविष्य में यह क्या कर सकता है, हमें यह सुनिश्चित करने के लिए काम करना चाहिए कि AI और इसके उपयोग को नियंत्रित करने वाले कानून हैं, ताकि बुरे अभिनेता AI के साथ बेवकूफीपूर्ण चीजें न कर सकें जो हमें उस रास्ते पर ले जाएंगे जिससे हम नफरत करने लगेंगे। – Rappler.com