विटालिक ब्यूटेरिन ने AI एजेंट्स के जोखिमों से उपयोगकर्ताओं की सुरक्षा के लिए सेल्फ-सॉवरेन AI स्टैक का प्रस्ताव दिया

Ethereum के सह-संस्थापक Vitalik Buterin ने एक व्यक्तिगत AI सेटअप की रूपरेखा तैयार की है जो गोपनीयता, स्थानीय प्रोसेसिंग और उपयोगकर्ता नियंत्रण को प्राथमिकता देने के लिए डिज़ाइन किया गया है। इस सप्ताह जारी एक ब्लॉग पोस्ट में, उन्होंने एक ऐसी प्रणाली का वर्णन किया जो क्लाउड-आधारित AI से स्वतंत्र रूप से काम करने के लिए बनाई गई है, स्वायत्त AI एजेंट्स से जुड़े बढ़ते जोखिमों की चिंताओं का हवाला देते हुए।

Vitalik Buterin ने इस बात पर प्रकाश डाला कि चैटबॉट से स्वायत्त एजेंट्स की ओर बदलाव—ऐसी प्रणालियाँ जो कार्यों को निष्पादित करने, वेब ब्राउज़ करने और विस्तारित अवधि में उपयोगकर्ताओं की ओर से कार्य करने में सक्षम हैं—सुरक्षा चुनौतियाँ पैदा करता है। उन्होंने GitHub पर व्यापक रूप से उपयोग किए जाने वाले रिपॉजिटरी OpenClaw का संदर्भ दिया, यह नोट करते हुए कि कुछ एजेंट उपयोगकर्ता की सहमति के बिना सिस्टम प्रॉम्प्ट को बदल सकते हैं, दुर्भावनापूर्ण वेबसाइटों के साथ इंटरैक्ट करने से इंस्टेंस से समझौता हो सकता है, और समुदाय द्वारा बनाए गए लगभग 15% कौशलों में संभावित रूप से हानिकारक निर्देश शामिल थे, जिनमें मौन डेटा निष्कर्षण भी शामिल है।

Ethereum के सह-संस्थापक ने जोर देकर कहा कि क्लाउड-निर्भर AI की ओर रुझान स्थानीय-प्रथम और एंड-टू-एंड एन्क्रिप्टेड सॉफ़्टवेयर में प्रगति को पूर्ववत करने का जोखिम रखता है। 

"जैसे हम अंततः गोपनीयता में एक कदम आगे बढ़ा रहे थे... हम अपने पूरे जीवन को क्लाउड-आधारित AI को खिलाने को सामान्य बनाकर दस कदम पीछे जाने के कगार पर हैं," उन्होंने कहा।

सुरक्षित निष्पादन और भविष्य के ओपन-सोर्स इकोसिस्टम के साथ गोपनीयता-केंद्रित स्थानीय AI सेटअप

प्रयोगों में, उन्होंने कई हार्डवेयर कॉन्फ़िगरेशन का परीक्षण किया, जिसमें NVIDIA 5090 लैपटॉप, 128 GB यूनिफाइड मेमोरी वाला AMD Ryzen AI Max Pro, और NVIDIA का DGX Spark शामिल है, प्रदर्शन और उपयोगिता में अंतर को नोट करते हुए। वह पुनरुत्पादन योग्य कॉन्फ़िगरेशन के लिए NixOS चलाते हैं, स्थानीय अनुमान के लिए llama-swap के माध्यम से llama-server का उपयोग करते हैं, और फ़ाइल और नेटवर्क एक्सेस को प्रतिबंधित करने के लिए bubblewrap सैंडबॉक्स में एजेंट कार्यों को लपेटते हैं। 

उन्होंने एक मैसेजिंग डेमॉन भी विकसित किया जो AI को Signal और ईमेल जैसे संचार पढ़ने की अनुमति देता है, लेकिन कोई भी आउटगोइंग संदेश भेजने से पहले स्पष्ट उपयोगकर्ता अनुमोदन की आवश्यकता होती है, "मानव + LLM 2-of-2" प्राधिकरण मॉडल को लागू करते हुए।

Vitalik Buterin ने स्वीकार किया कि स्थानीय मॉडल वर्तमान में जटिल कोडिंग और अनुसंधान कार्यों में फ्रंटियर AI से कम हैं। उन्होंने गोपनीयता-संरक्षण दृष्टिकोणों का प्रस्ताव दिया जिसमें जीरो-नॉलेज API कॉल, नेटवर्क पैटर्न को अस्पष्ट करने के लिए mixnets, और दूरस्थ अनुमान के लिए विश्वसनीय निष्पादन वातावरण शामिल हैं। 

डेवलपर एक ऐसे भविष्य की कल्पना करते हैं जिसमें स्थानीय रूप से उत्पन्न, औपचारिक रूप से सत्यापित कोड बड़ी तृतीय-पक्ष लाइब्रेरियों को प्रतिस्थापित करता है, AI जो स्वायत्त रूप से घोटालों की पहचान कर सकता है, और सुरक्षा उपकरणों का एक विविध ओपन-सोर्स इकोसिस्टम जो कॉर्पोरेट उद्देश्यों के बजाय उपयोगकर्ता हितों की सेवा के लिए डिज़ाइन किया गया है। रिलीज़ को "एक शुरुआती बिंदु, एक तैयार उत्पाद नहीं" के रूप में प्रस्तुत किया गया है, जिसका उद्देश्य गोपनीयता-केंद्रित AI में आगे के विकास को प्रोत्साहित करना है।

पोस्ट Vitalik Buterin ने AI एजेंट्स के जोखिमों से उपयोगकर्ताओं की सुरक्षा के लिए स्व-संप्रभु AI स्टैक का प्रस्ताव दिया   पहली बार Metaverse Post पर प्रकाशित हुई।