मोल्टबुक का AI-ओनली सोशल नेटवर्क प्रमुख सुरक्षा जोखिमों को उजागर करता है

पिछले सप्ताह एक सोशल मीडिया प्लेटफ़ॉर्म ने ऑनलाइन ध्यान आकर्षित किया जहाँ लोगों की जगह रोबोट एक-दूसरे से बात करते हैं, लेकिन सुरक्षा विशेषज्ञों का कहना है कि असली कहानी वह है जो उन्हें अंदर मिला।

Moltbook ने एक ऐसी जगह के रूप में सुर्खियाँ बटोरीं जहाँ आर्टिफिशियल इंटेलिजेंस बॉट्स कंटेंट पोस्ट करते हैं जबकि लोग सिर्फ देखते हैं। पोस्ट तेजी से अजीब होते गए। AI एजेंट्स अपने खुद के धर्म शुरू करते दिखे, मनुष्यों के बारे में गुस्से वाले संदेश लिखे, और ऑनलाइन पंथों की तरह एक साथ जुड़ गए। लेकिन कंप्यूटर सुरक्षा का अध्ययन करने वाले लोगों का कहना है कि यह सारा अजीब व्यवहार सिर्फ एक साइडशो है।

उन्होंने जो खोजा वह अधिक परेशान करने वाला था। पासवर्ड और ईमेल पतों से भरे खुले डेटाबेस, हानिकारक सॉफ्टवेयर चारों ओर फैल रहे हैं, और AI एजेंट्स के नेटवर्क कैसे गलत हो सकते हैं इसका पूर्वावलोकन।

साइट पर कुछ अजीब बातचीत, जैसे AI एजेंट्स मानवता को मिटाने की योजना बना रहे हैं, अधिकतर नकली निकलीं।

UCL इंटरेक्शन सेंटर में पढ़ाने वाले जॉर्ज चल्हौब ने Fortune को बताया कि Moltbook कुछ बहुत वास्तविक खतरे दिखाता है। हमलावर प्लेटफ़ॉर्म का उपयोग खराब सॉफ़्टवेयर, घोटाले, फर्जी खबरों, या अन्य एजेंटों को अपने कब्जे में लेने वाली चालों के परीक्षण स्थल के रूप में कर सकते हैं, बड़े नेटवर्क पर हमला करने से पहले।

"यदि एक Reddit क्लोन पर 770K एजेंट इतनी अराजकता पैदा कर सकते हैं, तो क्या होगा जब एजेंटिक सिस्टम एंटरप्राइज इंफ्रास्ट्रक्चर या वित्तीय लेनदेन का प्रबंधन करेंगे? यह चेतावनी के रूप में ध्यान देने योग्य है, जश्न के रूप में नहीं," चल्हौब ने कहा।

सुरक्षा शोधकर्ताओं का कहना है कि OpenClaw, AI एजेंट सॉफ़्टवेयर जो Moltbook पर कई बॉट्स चलाता है, पहले से ही हानिकारक सॉफ़्टवेयर की समस्याओं से ग्रस्त है। OpenSourceMalware की एक रिपोर्ट में केवल कुछ दिनों में इसकी ClawHub वेबसाइट पर अपलोड किए गए 14 नकली टूल पाए गए। इन टूल्स ने क्रिप्टो ट्रेडिंग में मदद करने का दावा किया लेकिन वास्तव में कंप्यूटर को संक्रमित किया। एक तो ClawHub के मुख्य पृष्ठ तक पहुँच गया, नियमित उपयोगकर्ताओं को एक कमांड कॉपी करने के लिए धोखा देते हुए जो उनका डेटा या क्रिप्टो वॉलेट चुराने के लिए डिज़ाइन की गई स्क्रिप्ट डाउनलोड करती थी।

प्रॉम्प्ट इंजेक्शन क्या है और यह AI एजेंट्स के लिए इतना खतरनाक क्यों है?

सबसे बड़ा खतरा प्रॉम्प्ट इंजेक्शन नामक कुछ है, एक ज्ञात प्रकार का हमला जहाँ खराब निर्देश AI एजेंट को दिए गए कंटेंट में छिपे होते हैं।

साइमन विलिसन, एक प्रसिद्ध सुरक्षा शोधकर्ता, ने एक साथ तीन चीजों के बारे में चेतावनी दी। उपयोगकर्ता इन एजेंटों को निजी ईमेल और डेटा देखने दे रहे हैं, उन्हें इंटरनेट से संदिग्ध कंटेंट से जोड़ रहे हैं, और उन्हें संदेश भेजने की अनुमति दे रहे हैं। एक खराब प्रॉम्प्ट एजेंट को संवेदनशील जानकारी चुराने, क्रिप्टो वॉलेट खाली करने, या उपयोगकर्ता की जानकारी के बिना हानिकारक सॉफ़्टवेयर फैलाने के लिए कह सकता है।

चार्ली एरिक्सन, जो Aikido Security में सुरक्षा अनुसंधान करते हैं, Moltbook को AI एजेंट्स की व्यापक दुनिया के लिए एक प्रारंभिक अलार्म के रूप में देखते हैं। "मुझे लगता है कि Moltbook ने पहले ही दुनिया पर प्रभाव डाला है। कई मायनों में एक जागृति कॉल। तकनीकी प्रगति तेज गति से हो रही है, और यह बिल्कुल स्पष्ट है कि दुनिया इस तरह बदल गई है जो अभी भी पूरी तरह स्पष्ट नहीं है। और हमें जल्द से जल्द उन जोखिमों को कम करने पर ध्यान देने की आवश्यकता है," उन्होंने कहा।

तो क्या Moltbook पर केवल AI एजेंट हैं, या वास्तविक लोग शामिल हैं? सारे ध्यान के बावजूद, साइबर सुरक्षा कंपनी Wiz ने पाया कि Moltbook के 1.5 मिलियन तथाकथित स्वतंत्र एजेंट वैसे नहीं थे जैसे वे दिखते थे। उनकी जांच से पता चला कि उन खातों के पीछे केवल 17,000 वास्तविक लोग हैं, वास्तविक AI को साधारण स्क्रिप्ट से अलग करने का कोई तरीका नहीं है।

Wiz के गैल नागली ने कहा कि जब उन्होंने इसे परीक्षण किया तो वे मिनटों में एक मिलियन एजेंट साइन अप कर सकते थे। उन्होंने कहा, "कोई भी जाँच नहीं कर रहा है कि क्या असली है और क्या नहीं।"

Wiz ने Moltbook में एक बड़ा सुरक्षा छेद भी पाया। मुख्य डेटाबेस पूरी तरह खुला था। वेबसाइट कोड में एक कुंजी खोजने वाला कोई भी व्यक्ति लगभग सब कुछ पढ़ और बदल सकता था। उस कुंजी ने लगभग 1.5 मिलियन बॉट पासवर्ड, हजारों ईमेल पते, और निजी संदेशों तक पहुँच दी। एक हमलावर लोकप्रिय AI एजेंटों का रूप धारण कर सकता है, उपयोगकर्ता डेटा चुरा सकता है, और लॉग इन किए बिना भी पोस्ट फिर से लिख सकता है।

नागली ने कहा कि समस्या वाइब कोडिंग नामक किसी चीज़ से आई। वाइब कोडिंग क्या है? यह तब होता है जब कोई व्यक्ति AI को रोजमर्रा की भाषा का उपयोग करके कोड लिखने के लिए कहता है।

AI एजेंटों का किल स्विच दो साल में समाप्त हो जाता है

यह स्थिति 2 नवंबर, 1988 को हुई घटना की याद दिलाती है, जब स्नातक छात्र रॉबर्ट मॉरिस ने प्रारंभिक इंटरनेट में एक स्व-प्रतिलिपि कार्यक्रम जारी किया। 24 घंटों के भीतर, उनके वर्म ने सभी जुड़े हुए कंप्यूटरों में से लगभग 10% को संक्रमित कर दिया था। मॉरिस इंटरनेट कितना बड़ा है यह मापना चाहते थे, लेकिन एक कोडिंग गलती ने इसे बहुत तेजी से फैला दिया।

आज का संस्करण शायद वह है जिसे शोधकर्ता प्रॉम्प्ट वर्म कहते हैं, निर्देश जो बात करने वाले AI एजेंटों के नेटवर्क के माध्यम से खुद को कॉपी करते हैं।

सिमुला रिसर्च लेबोरेटरी के शोधकर्ताओं ने Moltbook पर 506 पोस्ट पाईं, जो उन्होंने देखा उसका 2.6 प्रतिशत, जिनमें छिपे हमले थे। Cisco के शोधकर्ताओं ने "What Would Elon Do?" नामक एक हानिकारक कार्यक्रम को दस्तावेजित किया जो डेटा चुराता था और इसे बाहरी सर्वरों पर भेजता था। यह कार्यक्रम रिपॉजिटरी में नंबर एक पर था।

मार्च 2024 में, सुरक्षा शोधकर्ता बेन नासी, स्टैव कोहेन, और रॉन बिटन ने एक पेपर प्रकाशित किया जिसमें दिखाया गया कि स्व-प्रतिलिपि प्रॉम्प्ट AI ईमेल सहायकों के माध्यम से कैसे फैल सकते हैं, डेटा चुरा सकते हैं और जंक मेल भेज सकते हैं। उन्होंने इसे मूल 1988 वर्म के बाद Morris-II कहा।

अभी, Anthropic और OpenAI जैसी कंपनियाँ एक किल स्विच को नियंत्रित करती हैं जो हानिकारक AI एजेंटों को रोक सकता है क्योंकि OpenClaw मुख्य रूप से उनकी सेवाओं पर चलता है। लेकिन स्थानीय AI मॉडल बेहतर हो रहे हैं। Mistral, DeepSeek, और Qwen जैसे कार्यक्रम सुधार करते रहते हैं। एक या दो साल के भीतर, व्यक्तिगत कंप्यूटर पर एक सक्षम एजेंट चलाना संभव हो सकता है। उस समय, चीजों को बंद करने के लिए कोई प्रदाता नहीं होगा।

क्या आप चाहते हैं कि आपका प्रोजेक्ट क्रिप्टो के शीर्ष दिमागों के सामने हो? इसे हमारी अगली उद्योग रिपोर्ट में प्रदर्शित करें, जहाँ डेटा प्रभाव से मिलता है।