آنتروپیک می‌گوید هدف حملات گسترده استخراج مدل قرار گرفته است

توسعه‌دهنده AI Agent پیشرو Anthropic به‌طور علنی سه آزمایشگاه AI Agent چینی—DeepSeek، Moonshot و Minimax—را متهم کرده است که حملات استخراج را با هدف سرقت قابلیت‌های Claude، مدل زبانی بزرگ Anthropic، انجام داده‌اند. این شرکت در یک پست وبلاگ تفصیلی، کمپین‌هایی را توصیف می‌کند که ادعا می‌شود بیش از 16 میلیون تبادل را در حدود 24,000 حساب تقلبی تولید کرده‌اند و از خروجی‌های Claude برای آموزش مدل‌های کم‌توان‌تر سوءاستفاده کرده‌اند. استخراج، یک تاکتیک آموزشی شناخته‌شده در AI Agent، زمانی مشکل‌ساز می‌شود که در مقیاس بزرگ برای تکرار ویژگی‌های قدرتمند بدون تحمل هزینه‌های توسعه مشابه به‌کار گرفته شود. Anthropic تأکید می‌کند که در حالی که استخراج کاربردهای مشروع دارد، می‌تواند شرکت‌های رقیب را قادر سازد تا به‌طور میانبر به دستاوردها برسند و محصولات خود را با کسری از زمان و هزینه ارتقا دهند.

نکات کلیدی

• استخراج شامل آموزش یک مدل ضعیف‌تر بر اساس خروجی‌های یک مدل قوی‌تر است، روشی که به‌طور گسترده برای ایجاد نسخه‌های کوچک‌تر و ارزان‌تر سیستم‌های AI Agent استفاده می‌شود.
• Anthropic ادعا می‌کند که DeepSeek، Moonshot و Minimax کمپین‌های استخراج در مقیاس انبوه را سازماندهی کرده‌اند و میلیون‌ها تعامل با Claude را در ده‌ها هزار حساب جعلی تولید کرده‌اند.
• گزارش شده است که حملات قابلیت‌های متمایز Claude، از جمله استدلال عاملیت، استفاده از ابزار و کدنویسی را هدف قرار داده‌اند که نشان‌دهنده تمرکز بر شایستگی‌های با ارزش بالا و قابل انتقال است.
• این شرکت استدلال می‌کند که کمپین‌های استخراج خارجی خطرات ژئوپلیتیکی را به همراه دارند و به‌طور بالقوه بازیگران استبدادی را با قابلیت‌های پیشرفته برای عملیات سایبری، اطلاعات نادرست و نظارت مسلح می‌کنند.
• Anthropic می‌گوید نظارت بر ریسک در زمان واقعی را تقویت خواهد کرد، اطلاعات تهدید را به اشتراک می‌گذارد و کنترل‌های دسترسی را سخت‌تر می‌کند، در حالی که خواستار همکاری گسترده‌تر صنعت و مشارکت نظارتی برای مقابله با این تهدیدها است.

زمینه بازار: این حادثه در میان بررسی دقیق قابلیت همکاری بلاک چین مدل AI Agent و امنیت پیشنهادات مبتنی بر رایانش ابری AI Agent رخ می‌دهد، پس‌زمینه‌ای که به سیستم‌های خودکار استفاده‌شده در بازارهای کریپتو و ابزارهای مدیریت ریسک خودکار مرتبط نیز می‌پردازد. همان‌طور که مدل‌های AI Agent بیشتر در معاملات، ارزیابی ریسک و پشتیبانی تصمیم جاسازی می‌شوند، اطمینان از یکپارچگی داده‌های ورودی و خروجی‌های مدل برای توسعه‌دهندگان و کاربران در فضای کریپتو اهمیت بیشتری پیدا می‌کند.

چرا مهم است

این اتهامات بر تنشی در قلب AI Agent پیشرو تأکید می‌کنند: خط بین استخراج مشروع مدل و تکرار سوءاستفاده‌گرانه. استخراج یک رویه رایج و مشروع است که توسط آزمایشگاه‌ها برای ارائه نسخه‌های ناب‌تر از یک مدل برای مشتریان با بودجه محاسباتی متوسط استفاده می‌شود. با این حال، زمانی که در مقیاس بزرگ علیه یک اکوسیستم غیر متمرکز واحد استفاده شود، این تکنیک می‌تواند برای استخراج قابلیت‌هایی که در غیر این صورت نیاز به تحقیق و مهندسی قابل توجهی دارند، سوءاستفاده شود. اگر تأیید شود، کمپین‌ها می‌توانند باعث بازنگری گسترده‌تر در نحوه کنترل، نظارت و حسابرسی دسترسی به مدل‌های قدرتمند شوند، به‌ویژه برای شرکت‌هایی با دسترسی جهانی و ردپای پیچیده رایانش ابری.

Anthropic ادعا می‌کند که سه شرکت نام‌برده فعالیت‌هایی را انجام داده‌اند که برای برداشت توانایی‌های پیشرفته Claude از طریق ترکیبی از همبستگی آدرس IP، متادیتای درخواست و شاخص‌های زیرساخت طراحی شده‌اند، با تأیید مستقل از شرکای صنعت. این نشان‌دهنده یک تلاش هماهنگ و مبتنی بر داده برای نقشه‌برداری و تکرار قابلیت‌های مبتنی بر رایانش ابری AI Agent است، نه صرفاً آزمایش‌های جداگانه. مقیاس توصیف‌شده—ده‌ها میلیون تعامل در هزاران حساب—سؤالاتی درباره اقدامات دفاعی موجود برای نظارت بر ریسک در زمان واقعی و مختل کردن چنین الگوهایی و همچنین چارچوب‌های پاسخگویی که رقبای خارجی را که در فضاهای AI Agent با پیامدهای مستقیم ملی و اقتصادی فعالیت می‌کنند، اداره می‌کنند، ایجاد می‌کند.

فراتر از نگرانی IP، Anthropic فعالیت ادعایی را به خطر استراتژیک برای امنیت حساب ملی مرتبط می‌کند و استدلال می‌کند که حملات استخراج توسط آزمایشگاه‌های خارجی می‌توانند به سیستم‌های نظامی، اطلاعاتی و نظارتی وارد شوند. این شرکت ادعا می‌کند که قابلیت‌های محافظت‌نشده می‌توانند عملیات سایبری تهاجمی، کمپین‌های اطلاعات نادرست و نظارت انبوه را ممکن سازند و محاسبات ژئوپلیتیکی را برای سیاست‌گذاران و بازیگران صنعت پیچیده‌تر کنند. این ادعا موضوع را نه صرفاً یک اختلاف رقابتی، بلکه موضوعی با پیامدهای گسترده برای نحوه محافظت و حکمرانی فناوری‌های AI Agent پیشرو قاب می‌کند.

در ترسیم مسیری رو به جلو، Anthropic می‌گوید سیستم‌های نظارت بر ریسک در زمان واقعی را برای شناسایی الگوهای ترافیک مشکوک تقویت خواهد کرد، اشتراک‌گذاری اطلاعات تهدید را تسریع می‌کند و کنترل‌های دسترسی را سخت‌تر می‌کند. این شرکت همچنین از بازیگران داخلی و قانون‌گذاران می‌خواهد که در دفاع در برابر بازیگران استخراج خارجی نزدیک‌تر همکاری کنند و استدلال می‌کند که یک واکنش هماهنگ و در سطح صنعت برای کنترل این فعالیت‌ها در مقیاس بزرگ ضروری است.

برای خوانندگانی که مرز سیاست AI Agent را دنبال می‌کنند، این اتهامات بازتابی از بحث‌های در جریان درباره چگونگی متعادل کردن نوآوری با حفاظت‌ها هستند—موضوعاتی که در حال حاضر در بحث‌ها درباره حکمرانی، کنترل‌های صادرات و جریان‌های داده‌های فرامرزی منعکس می‌شوند. صنعت گسترده‌تر مدت‌هاست با چگونگی بازداشت استفاده غیرقانونی بدون خفه کردن آزمایش مشروع دست و پنجه نرم می‌کند، تنشی که احتمالاً نقطه کانونی برای تلاش‌های نظارتی و تعیین استانداردهای آینده خواهد بود.

آنچه باید در مرحله بعد دنبال کرد

• Anthropic و شرکت‌های متهم ممکن است جزئیات بیشتر یا روشن‌سازی‌هایی درباره اتهامات و پاسخ‌های مربوطه خود منتشر کنند.
• نهادهای اطلاعات تهدید و ارائه‌دهندگان رایانش ابری می‌توانند شاخص‌های به‌روز‌شده خطر یا راهنمایی دفاعی مرتبط با حملات سبک استخراج را منتشر کنند.
• تنظیم‌کننده‌ها و قانون‌گذاران ممکن است سیاست‌هایی را که دسترسی به مدل AI Agent، اشتراک‌گذاری داده‌های فرامرزی و اقدامات ضد دزدی دریایی برای مدل‌های با قابلیت بالا را اداره می‌کنند، صادر یا اصلاح کنند.
• محققان مستقل و شرکت‌های امنیت حساب ممکن است روش‌شناسی‌های استفاده‌شده برای شناسایی کمپین‌های ادعایی را تکرار یا به چالش بکشند و به‌طور بالقوه پایگاه شواهد را گسترش دهند.
• همکاری‌های صنعتی می‌توانند برای ایجاد بهترین شیوه‌ها برای محافظت از قابلیت‌های مدل پیشرو و برای حسابرسی فرآیندهای استخراج مدل ظاهر شوند.

منابع و تأیید

• پست وبلاگ Anthropic: نظارت بر ریسک در زمان واقعی و پیشگیری از حملات استخراج — بیانیه رسمی تایید شده جزئیات اتهامات و کمپین‌های توصیف‌شده.
• پست وضعیت X Anthropic که در افشا ارجاع داده شده — سابقه عمومی همزمان از یافته‌های شرکت.
• پوشش Cointelegraph و مواد پیوند شده که درباره AI Agent، AI Agent پیشرو و نگرانی‌های امنیتی مرتبط مورد اشاره در مقاله بحث می‌کنند.
• بحث‌های مرتبط درباره نقش استخراج در آموزش AI Agent و سوءاستفاده بالقوه آن در محیط‌های رقابتی.

حملات استخراج و امنیت حساب AI Agent پیشرو

ادعای اصلی بر سوءاستفاده ساختاریافته از استخراج استوار است، جایی که خروجی‌های یک مدل قوی‌تر—Claude در این مورد—برای آموزش مدل‌های جایگزین که قابلیت‌های آن را تقلید یا تقریب می‌زنند، استفاده می‌شود. Anthropic ادعا می‌کند این یک نشت جزئی نیست، بلکه یک کمپین پایدار در میلیون‌ها تعامل است که سه شرکت را قادر می‌سازد تصمیم‌گیری سطح بالا، استفاده از ابزار و توانایی‌های کدنویسی را بدون تحمل هزینه کامل تحقیق اصلی تقریب بزنند. اعداد ذکرشده—بیش از 16 میلیون تبادل در حدود 24,000 حساب تقلبی—مقیاسی را نشان می‌دهند که می‌تواند انتظارات درباره عملکرد مدل، تجربه مشتری و یکپارچگی داده برای کاربران متکی به خدمات مبتنی بر Claude را بی‌ثبات کند.

آنچه اتهامات برای کاربران و سازندگان دلالت دارند

برای متخصصانی که بر AI Agent می‌سازند، این مورد بر اهمیت منشأ قوی، کنترل‌های دسترسی و نظارت بر ریسک در زمان واقعی مستمر استفاده از مدل تأکید می‌کند. اگر استخراج خارجی بتواند برای تولید جایگزین‌های قابل اجرا برای قابلیت‌های پیشرو مقیاس‌بندی شود، آنگاه درِ کالایی شدن گسترده ویژگی‌های قدرتمندی که قبلاً نتیجه سرمایه‌گذاری قابل توجهی بودند، باز می‌شود. پیامدها می‌توانند فراتر از از دست دادن IP به انحراف در رفتار مدل، شکست‌های غیرمنتظره یکپارچگی ابزار، یا انتشار خروجی‌های تغییریافته ظریف به کاربران نهایی گسترش یابند. سازندگان و اپراتورهای خدمات فعال‌شده توسط AI Agent—چه در امور مالی، بهداشت و درمان یا فناوری مصرف‌کننده—ممکن است با بررسی دقیق یکپارچگی‌های شخص ثالث، شرایط سخت‌تر مجوزدهی و نظارت بر ریسک در زمان واقعی افزایش‌یافته پیرامون ترافیک API و پرس‌وجوهای مدل پاسخ دهند.

ملاحظات کلیدی برای اکوسیستم غیر متمرکز کریپتو

در حالی که این حادثه بر امنیت حساب مدل AI Agent متمرکز است، طنین آن برای بازارهای کریپتو در نحوه وابستگی پشتیبانی تصمیم‌گیری خودکار، ربات‌های معاملاتی و ابزارهای ارزیابی ریسک به ورودی‌های قابل اعتماد AI Agent نهفته است. شرکت‌کنندگان بازار و توسعه‌دهندگان باید نسبت به یکپارچگی خدمات فعال‌شده توسط AI Agent و پتانسیل قابلیت‌های به خطر افتاده یا تکرارشده برای تأثیرگذاری بر سیستم‌های خودکار هوشیار باشند. این موقعیت همچنین نیاز گسترده‌تر به همکاری بین صنعتی درباره اطلاعات تهدید، استانداردها برای منشأ مدل و بهترین شیوه‌های مشترکی را که می‌توانند به جلوگیری از سرریز آسیب‌پذیری‌های AI Agent به فناوری های دیجیتال مالی و پلتفرم‌های دارایی دیجیتال کمک کنند، برجسته می‌کند.

آنچه باید در کوتاه‌مدت نظارت کرد

• به‌روزرسانی‌های عمومی از Anthropic درباره یافته‌ها، شاخص‌های خطر و هر نقطه عطف اصلاحی.
• روشن‌سازی‌ها یا بیانیه‌های DeepSeek، Moonshot و Minimax درباره اتهامات.
• دستورالعمل‌های جدید یا اقدامات اجرایی از سوی سیاست‌گذاران با هدف استخراج خارجی و کنترل‌های صادرات برای قابلیت‌های AI Agent.
• ابزارهای نظارتی افزایش‌یافته و استراتژی‌های کنترل دسترسی اتخاذ‌شده توسط ارائه‌دهندگان رایانش ابری که میزبان مدل‌های AI Agent پیشرو هستند.
• تحقیقات مستقل که روش‌های استفاده‌شده برای نظارت بر ریسک در زمان واقعی الگوهای استخراج و مقیاس فعالیت ادعایی را تأیید یا به چالش می‌کشند.

این مقاله در ابتدا به عنوان Anthropic می‌گوید هدف حملات گسترده استخراج قرار گرفته است در Crypto Breaking News منتشر شد – منبع قابل اعتماد شما برای اخبار کریپتو، اخبار بیت کوین و به‌روزرسانی‌های بلاک چین.