أفادت PANews في 24 أكتوبر أنه وفقًا لموقع simonwillison.net، كشفت الأبحاث عن خطر منهجي لـ "حقن الأوامر غير المباشر" في متصفحات الذكاء الاصطناعي. أظهر فريق Brave أنه يمكن خداع متصفح Comet من Perplexity للوصول تلقائيًا إلى تفاصيل الحساب واستخراج البيانات عبر روابط خارجية من خلال أوامر غير مرئية مضمنة في لقطات الشاشة. ومع ذلك، كان Fellou أكثر خطورة، حيث خدعه نص الصفحة لفتح حساب البريد الإلكتروني وإرسال أحدث عناوين البريد الإلكتروني إلى موقع خارجي. تضمنت كلتا الحالتين التنفيذ دون تأكيد المستخدم وأثارت مخاوف بشأن أمن البريد الإلكتروني والأمن المالي. لم توضح Brave ما إذا كانت هذه الثغرات قد تمت معالجتها من قبل المورد. نشر مسؤول أمن المعلومات الرئيسي في OpenAI، دين ستاكي، مقالًا مطولًا يكشف عن حماية وكيل الذكاء الاصطناعي ChatGPT Atlas ضد حقن الأوامر: من خلال اختبار الفريق الأحمر، ومكافآت التدريب لتجاهل الأوامر الخبيثة، وأسوار الأمان المتداخلة، وحظر اكتشاف الهجمات؛ اقترح "الدفاع المتعمق" واعترف بأن حقن الأوامر لا يزال مشكلة متطورة غير محلولة.أفادت PANews في 24 أكتوبر أنه وفقًا لموقع simonwillison.net، كشفت الأبحاث عن خطر منهجي لـ "حقن الأوامر غير المباشر" في متصفحات الذكاء الاصطناعي. أظهر فريق Brave أنه يمكن خداع متصفح Comet من Perplexity للوصول تلقائيًا إلى تفاصيل الحساب واستخراج البيانات عبر روابط خارجية من خلال أوامر غير مرئية مضمنة في لقطات الشاشة. ومع ذلك، كان Fellou أكثر خطورة، حيث خدعه نص الصفحة لفتح حساب البريد الإلكتروني وإرسال أحدث عناوين البريد الإلكتروني إلى موقع خارجي. تضمنت كلتا الحالتين التنفيذ دون تأكيد المستخدم وأثارت مخاوف بشأن أمن البريد الإلكتروني والأمن المالي. لم توضح Brave ما إذا كانت هذه الثغرات قد تمت معالجتها من قبل المورد. نشر مسؤول أمن المعلومات الرئيسي في OpenAI، دين ستاكي، مقالًا مطولًا يكشف عن حماية وكيل الذكاء الاصطناعي ChatGPT Atlas ضد حقن الأوامر: من خلال اختبار الفريق الأحمر، ومكافآت التدريب لتجاهل الأوامر الخبيثة، وأسوار الأمان المتداخلة، وحظر اكتشاف الهجمات؛ اقترح "الدفاع المتعمق" واعترف بأن حقن الأوامر لا يزال مشكلة متطورة غير محلولة.