गूगल ने विरोध के बीच पेंटागन के लिए जेमिनी एआई एजेंट्स को आगे बढ़ाया

Google Gemini AI एजेंट Pentagon के अवर्गीकृत नेटवर्क पर कार्यों का समर्थन करते हैं

Bloomberg Law (https://news.bloomberglaw.com/federal-contracting/google-to-provide-pentagon-with-ai-agents-for-unclassified-work?utm_source=openai) के अनुसार, Google Pentagon नेटवर्क पर अवर्गीकृत कार्य के लिए अमेरिकी रक्षा विभाग को Gemini-संचालित AI एजेंट प्रदान करेगा। रक्षा उप सचिव (अनुसंधान और इंजीनियरिंग) Emil Michael ने घोषणा की कि एजेंट शुरुआत में विभाग के 3+ मिलियन कर्मियों की सेवा करने वाले अवर्गीकृत नेटवर्क पर काम करेंगे। विभाग ने वर्गीकृत या अति गोपनीय प्रणालियों में एजेंटों का विस्तार करने में रुचि भी दिखाई है, लेकिन वर्तमान चरण अवर्गीकृत ही रहता है।

इस तैनाती को Pentagon के अवर्गीकृत नेटवर्क पर कार्यों के लिए समर्थन के रूप में प्रस्तुत किया गया है। यह तत्काल शासन प्रश्न भी स्थापित करता है क्योंकि सैन्य मांग प्रदाता-लगाए गए सुरक्षा गार्डरेल से मिलती है।

शासन, नैतिकता और रक्षा संचालन के लिए यह क्यों मायने रखता है

TechRadar (https://www.techradar.com/pro/security/pentagon-may-sever-anthropic-relationship-over-ai-safeguards-claude-maker-expresses-concerns-over-hard-limits-around-fully-autonomous-weapons-and-mass-domestic-surveillance?utm_source=openai) द्वारा रिपोर्ट के अनुसार, रक्षा सचिव ने कंपनियों से "सभी वैध उद्देश्यों" के लिए व्यापक AI उपयोग की अनुमति देने का आग्रह किया है, जो मॉडल प्रतिबंधों को शिथिल करने के दबाव का संकेत देता है। यह मुद्रा रक्षा कार्यप्रवाह में खरीद, अनुपालन और निरीक्षण निहितार्थों को बढ़ाती है। कठोर सीमाओं वाले प्रदाताओं को अनुबंध घर्षण का सामना करना पड़ सकता है यदि भाषा उनकी नीतियों से परे स्वायत्तता को सक्षम करती प्रतीत होती है।

arXiv शोध (https://arxiv.org/abs/2502.02649?utm_source=openai) के आधार पर अकादमिक कार्य इस बात पर प्रकाश डालता है कि AI एजेंट स्वायत्तता बढ़ने और मानव निरीक्षण कम होने पर जोखिम बढ़ता है। रक्षा संचालन के लिए, यह गतिशीलता लेखा परीक्षा योग्यता, वृद्धि सीमा और जवाबदेही असाइनमेंट को सुरक्षित तैनाती के लिए केंद्रीय बनाती है।

Anthropic एक विपरीत दृष्टिकोण का प्रतिनिधित्व करता है, पूरी तरह से स्वायत्त हथियारों या बड़े पैमाने पर घरेलू निगरानी के आसपास गार्डरेल को शिथिल करने से इनकार करता है। AP News (https://apnews.com/article/9b28dda41bdb52b6a378fa9fc80b8fda?utm_source=openai) की रिपोर्ट के अनुसार, CEO Dario Amodei ने कहा कि उन पहलुओं का अनुपालन "सद्विवेक से नहीं कर सकते"। यह रुख रेखांकित करता है कि कैसे विक्रेता नीतियां कुछ रक्षा अनुप्रयोगों को सीमित कर सकती हैं, भले ही उपयोग कानूनी रूप से स्वीकार्य हो।

तत्काल प्रभाव सीमित है: Google Gemini AI एजेंट इस चरण में Pentagon के अवर्गीकृत नेटवर्क तक सीमित हैं। यह दायरा संचालन टीमों को किसी भी व्यापक रोलआउट से पहले विश्वसनीयता और नीति फिट का आकलन करने की अनुमति देता है।

प्रमुख सीमाओं में प्रदाता गार्डरेल शामिल हैं जो कुछ उपयोगों की अनुमति नहीं देते हैं और "सभी वैध उद्देश्यों" को अधिकृत करने के लिए एक विभागीय प्रयास। अगले कदम अनुबंध भाषा, जोखिम समीक्षा और मॉडल गार्डरेल और रक्षा नीति के बीच संरेखण पर निर्भर करते हैं।

मुख्य तनाव: स्वायत्तता, निगरानी और प्रदाता गार्डरेल

DoD का सभी वैध उद्देश्यों के लिए दबाव बनाम कठोर गार्डरेल

विभाग की "सभी वैध उद्देश्यों" की मांग उन प्रदाताओं के साथ घर्षण पैदा करती है जो कठोर सुरक्षा सीमाओं को बनाए रखते हैं। मुद्दा यह है कि मानव जिम्मेदारी और निरीक्षण को संरक्षित करते हुए स्वायत्तता कितनी दूर तक बढ़ सकती है। यह तनाव AI एजेंटों के लिए स्कोपिंग, स्वीकृति मानदंड और वृद्धि पथों को आकार देगा।

Anthropic का स्वायत्त हथियारों और बड़े पैमाने पर निगरानी जोखिमों पर इनकार

Anthropic ने पूरी तरह से स्वायत्त हथियारों या बड़े पैमाने पर घरेलू निगरानी से जुड़े उपयोगों को अस्वीकार करके एक स्पष्ट लाल रेखा खींची है, जैसा कि इसके नेतृत्व के सार्वजनिक बयानों में प्रतिबिंबित होता है। यह स्थिति कुछ रक्षा मार्गों को संकुचित करती है और मानव-नियंत्रित प्रणालियों को प्राथमिकता देती है।

Google Gemini AI एजेंटों के बारे में FAQ

क्या DoD इन AI एजेंटों को अवर्गीकृत से वर्गीकृत या अति गोपनीय प्रणालियों में विस्तारित करेगा, और किस समय-सीमा पर?

विभाग ने वर्गीकृत या अति गोपनीय नेटवर्क में विस्तार करने में रुचि दिखाई है; कोई सार्वजनिक समय-सीमा प्रकट नहीं की गई है।

Anthropic के गार्डरेल को शिथिल करने से इनकार का Pentagon AI खरीद और नीति पर क्या प्रभाव पड़ता है?

यह योग्य मॉडलों को कम करता है और सख्त गार्डरेल को संरक्षित करने के लिए अनुबंधों पर दबाव डालता है, स्वीकार्य-उपयोग भाषा, निरीक्षण अपेक्षाओं और Pentagon द्वारा अपनाई जा सकने वाली क्षमताओं को प्रभावित करता है।