Google का कहना है कि इसका AI चैटबॉट Gemini बड़े पैमाने पर "distillation attacks" का सामना कर रहा है

Google का AI चैटबॉट Gemini बड़े पैमाने पर सूचना चोरी का निशाना बन गया है, हमलावर सिस्टम को सवालों से भर रहे हैं ताकि यह समझ सकें कि यह कैसे काम करता है। केवल एक ऑपरेशन ने चैटबॉट को 100,000 से अधिक प्रश्न भेजे, उन गुप्त पैटर्न को निकालने की कोशिश में जो इसे स्मार्ट बनाते हैं।

कंपनी ने गुरुवार को रिपोर्ट किया कि ये तथाकथित "डिस्टिलेशन अटैक" बदतर होते जा रहे हैं। बुरे लोग Gemini की प्रतिक्रियाओं के पीछे के तर्क को समझने के लिए लगातार सवाल भेज रहे हैं। उनका लक्ष्य सरल है: विकास पर अरबों खर्च किए बिना अपने स्वयं के AI सिस्टम बनाने या बेहतर बनाने के लिए Google की तकनीक चुराना।

Google का मानना है कि अधिकांश हमलावर निजी व्यवसाय या शोधकर्ता हैं जो कड़ी मेहनत किए बिना आगे बढ़ना चाहते हैं। कंपनी की रिपोर्ट के अनुसार, हमले दुनिया भर से आए। John Hultquist, जो Google के Threat Intelligence Group का नेतृत्व करते हैं, ने कहा कि कस्टम AI टूल का उपयोग करने वाली छोटी कंपनियों को जल्द ही इसी तरह के हमलों का सामना करना पड़ सकता है।

टेक फर्मों ने अपने AI चैटबॉट बनाने में अरबों डॉलर लगाए हैं। इन सिस्टम की आंतरिक कार्यप्रणाली को मुकुट रत्नों की तरह माना जाता है। इन हमलों को पकड़ने के लिए सुरक्षा उपाय होने के बावजूद, प्रमुख AI सिस्टम आसान लक्ष्य बने रहते हैं क्योंकि इंटरनेट एक्सेस वाला कोई भी उनसे बात कर सकता है।

पिछले साल, OpenAI ने चीनी कंपनी DeepSeek पर आरोप लगाया कि उसने अपने मॉडल को बेहतर बनाने के लिए डिस्टिलेशन का उपयोग किया। Cryptopolitan ने 30 जनवरी को रिपोर्ट किया कि OpenAI द्वारा चीनी फर्म पर अपने AI मॉडल चुराने के लिए डिस्टिलेशन का उपयोग करने का आरोप लगाने के बाद इटली और आयरलैंड ने DeepSeek पर प्रतिबंध लगा दिया। यह तकनीक कंपनियों को लागत के एक अंश पर महंगी तकनीक की नकल करने देती है।

हमलावर ऐसा क्यों कर रहे हैं?

अर्थशास्त्र क्रूर है। एक अत्याधुनिक AI मॉडल बनाने में सैकड़ों मिलियन या अरबों डॉलर खर्च होते हैं। उद्योग रिपोर्टों के अनुसार, DeepSeek ने डिस्टिलेशन का उपयोग करके अपने R1 मॉडल को लगभग छह मिलियन डॉलर में बनाया, जबकि ChatGPT-5 के विकास की लागत दो बिलियन डॉलर से अधिक थी। एक मॉडल के तर्क को चुराना उस विशाल निवेश को लगभग शून्य कर देता है।

Google ने कहा कि Gemini पर कई हमलों ने उन एल्गोरिदम को निशाना बनाया जो इसे "तर्क" करने या जानकारी प्रोसेस करने में मदद करते हैं। संवेदनशील डेटा पर अपने AI सिस्टम को प्रशिक्षित करने वाली कंपनियां - जैसे 100 साल की ट्रेडिंग रणनीतियां या ग्राहक जानकारी - अब समान खतरे का सामना कर रही हैं।

"मान लीजिए आपके LLM को आपके व्यापार करने के तरीके की 100 साल की गुप्त सोच पर प्रशिक्षित किया गया है। सैद्धांतिक रूप से, आप उसमें से कुछ को डिस्टिल कर सकते हैं," Hultquist ने समझाया।

राष्ट्र-राज्य हैकर्स शिकार में शामिल

समस्या पैसे की भूखी कंपनियों से परे है। APT31, एक चीनी सरकारी हैकिंग समूह जिस पर मार्च 2024 में अमेरिकी प्रतिबंध लगाए गए थे, ने पिछले साल के अंत में अमेरिकी संगठनों के खिलाफ वास्तविक साइबर हमलों की योजना बनाने के लिए Gemini का उपयोग किया।

Google की रिपोर्ट के अनुसार, समूह ने Gemini को Hexstrike के साथ जोड़ा, एक ओपन-सोर्स हैकिंग टूल जो 150 से अधिक सुरक्षा प्रोग्राम चला सकता है। उन्होंने रिमोट कोड एक्जीक्यूशन खामियों, वेब सुरक्षा को बायपास करने के तरीकों और SQL इंजेक्शन हमलों का विश्लेषण किया - सभी विशिष्ट अमेरिकी लक्ष्यों पर निर्देशित।

Cryptopolitan ने पहले इसी तरह की AI सुरक्षा चिंताओं को कवर किया था, चेतावनी देते हुए कि हैकर्स AI कमजोरियों का फायदा उठा रहे हैं। APT31 मामला दिखाता है कि वे चेतावनियां बिल्कुल सही थीं।

Hultquist ने दो प्रमुख चिंताओं की ओर इशारा किया। न्यूनतम मानवीय मदद के साथ पूरे घुसपैठों में काम करने वाले विरोधी, और हमले के उपकरणों के विकास को स्वचालित करना। "ये दो तरीके हैं जहां विरोधी प्रमुख लाभ प्राप्त कर सकते हैं और न्यूनतम मानवीय हस्तक्षेप के साथ घुसपैठ चक्र के माध्यम से आगे बढ़ सकते हैं," उन्होंने कहा।

सॉफ्टवेयर कमजोरी की खोज और सुधार लागू करने के बीच की खिड़की, जिसे पैच गैप कहा जाता है, नाटकीय रूप से चौड़ी हो सकती है। संगठनों को अक्सर सुरक्षा तैनात करने में हफ्तों लग जाते हैं। AI एजेंटों के स्वचालित रूप से कमजोरियों को खोजने और परीक्षण करने के साथ, हमलावर बहुत तेजी से आगे बढ़ सकते हैं।

"हमें AI के लाभों का लाभ उठाना होगा, और मनुष्यों को तेजी से लूप से हटाना होगा, ताकि हम मशीन की गति से प्रतिक्रिया दे सकें," Hultquist ने The Register को बताया।

वित्तीय दांव बहुत बड़े हैं। IBM की 2024 डेटा ब्रीच रिपोर्ट में पाया गया कि बौद्धिक संपदा की चोरी अब संगठनों को प्रति रिकॉर्ड $173 खर्च करती है, IP-केंद्रित उल्लंघनों में साल-दर-साल 27% की वृद्धि हुई है। AI मॉडल वेट्स इस भूमिगत अर्थव्यवस्था में सबसे अधिक मूल्य वाले लक्ष्यों का प्रतिनिधित्व करते हैं - एक चोरी किया गया फ्रंटियर मॉडल ब्लैक मार्केट पर सैकड़ों मिलियन ला सकता है।

Google ने इन अभियानों से जुड़े खातों को बंद कर दिया है, लेकिन हमले "पूरी दुनिया से" आते रहते हैं, Hultquist ने कहा। जैसे-जैसे AI अधिक शक्तिशाली होता जाता है और अधिक कंपनियां इस पर निर्भर होती हैं, इस डिजिटल गोल्ड रश के तीव्र होने की उम्मीद है। सवाल यह नहीं है कि और हमले आएंगे या नहीं, बल्कि यह है कि क्या रक्षक बराबरी कर पाएंगे।

मार्गदर्शन + दैनिक विचारों के साथ अपनी रणनीति को तेज करें - हमारे ट्रेडिंग प्रोग्राम तक 30 दिनों की मुफ्त पहुंच