متصفحات الويب المدعومة بالذكاء الاصطناعي تفتح الباب لمخاطر أمنية غير مرئية

متصفحات الذكاء الاصطناعي مثل Atlas من OpenAI و Comet من Perplexity تعد بالراحة. لكنها تأتي مع مخاطر كبيرة للأمن السيبراني، مشكلة ملعبًا جديدًا للمتسللين.

تتنافس متصفحات الويب المدعومة بالذكاء الاصطناعي مع المتصفحات التقليدية مثل Google Chrome و Brave، بهدف جذب مليارات المستخدمين اليوميين للإنترنت.

قبل أيام قليلة، أطلقت OpenAI متصفح Atlas، بينما كان Comet من Perplexity موجودًا منذ شهور. يمكن لمتصفحات الذكاء الاصطناعي الكتابة والنقر عبر الصفحات. يمكن للمستخدمين أن يطلبوا منها حجز رحلة طيران، أو تلخيص رسائل البريد الإلكتروني، أو حتى ملء نموذج.

بشكل أساسي، تم تصميم متصفحات الذكاء الاصطناعي لتعمل كمساعدين رقميين وتتصفح الويب بشكل مستقل. يتم الترحيب بها كقفزة كبيرة قادمة في الإنتاجية عبر الإنترنت.

باحثو الأمن يشيرون إلى عيوب متصفح الذكاء الاصطناعي

لكن معظم المستهلكين لا يدركون مخاطر الحماية التي تأتي مع استخدام متصفحات الذكاء الاصطناعي. هذه المتصفحات معرضة للاختراقات المتطورة من خلال ظاهرة جديدة تسمى حقن الأوامر.

يمكن للمتسللين استغلال متصفحات الويب المدعومة بالذكاء الاصطناعي، والوصول إلى جلسات المستخدمين المسجلين، وتنفيذ إجراءات غير مصرح بها. على سبيل المثال، يمكن للمتسللين الوصول إلى رسائل البريد الإلكتروني، وحسابات وسائل التواصل الاجتماعي، أو حتى عرض تفاصيل الحسابات المصرفية ونقل الأموال.

وفقًا لأبحاث حديثة أجرتها Brave، يمكن للمتسللين تضمين تعليمات مخفية داخل صفحات الويب أو حتى الصور. عندما يقوم وكيل الذكاء الاصطناعي بتحليل هذا المحتوى ويرى التعليمات المخفية، يمكن خداعه لتنفيذها كما لو كانت أوامر مستخدم شرعية. لا تستطيع متصفحات الويب المدعومة بالذكاء الاصطناعي التمييز بين تعليمات المستخدم الحقيقية والمزيفة.

قام مهندسو Brave بتجربة Comet من Perplexity واختبروا رد فعله على حقن الأوامر. تبين أن Comet يعالج النص غير المرئي المخفي داخل لقطات الشاشة. يتيح هذا النهج للمهاجمين التحكم في أدوات التصفح واستخراج بيانات المستخدم بسهولة.

وصف مهندسو Brave هذه الثغرات بأنها "تحدٍ منهجي يواجه الفئة بأكملها من متصفحات الذكاء الاصطناعي."

حقن الأوامر صعب الإصلاح

يقول باحثو الأمن والمهندسون إن حقن الأوامر صعب الإصلاح. ذلك لأن نماذج الذكاء الاصطناعي لا تفهم من أين تأتي التعليمات. لا يمكنها التمييز بين الأوامر الحقيقية والمزيفة.

يمكن للبرامج التقليدية التمييز بين الإدخال الآمن والكود الضار، لكن نماذج اللغة الكبيرة (LLMs) تواجه صعوبة في ذلك. تعالج نماذج اللغة الكبيرة كل شيء، بما في ذلك طلبات المستخدم ونص موقع الويب وحتى البيانات المخفية، وتتعامل معها كمحادثة واحدة كبيرة.

لهذا السبب يعتبر حقن الأوامر خطيرًا. يمكن للمتسللين بسهولة إخفاء تعليمات مزيفة داخل محتوى يبدو آمنًا وسرقة معلومات حساسة.

شركات الذكاء الاصطناعي تعترف بأن حقن الأوامر يشكل تهديدًا خطيرًا

ذكرت Perplexity أن مثل هذه الهجمات لا تعتمد على الكود أو كلمات المرور المسروقة ولكنها بدلاً من ذلك تتلاعب بـ "عملية تفكير" الذكاء الاصطناعي. بنت الشركة طبقات دفاعية متعددة حول Comet لوقف هجمات حقن الأوامر. تستخدم نماذج تعلم آلي تكتشف التهديدات في الوقت الفعلي ودمجت أوامر حماية تبقي الذكاء الاصطناعي مركزًا على نية المستخدم. علاوة على ذلك، يتطلب المتصفح تأكيدًا إلزاميًا من المستخدم للإجراءات الحساسة مثل إرسال بريد إلكتروني أو شراء عنصر.

يعتقد باحثو الأمن أنه لا ينبغي الوثوق بمتصفحات الذكاء الاصطناعي مع الحسابات الحساسة أو البيانات الشخصية حتى يتم طرح تحسينات كبيرة. لا يزال بإمكان المستخدمين استخدام متصفحات الويب المدعومة بالذكاء الاصطناعي، ولكن بدون الوصول إلى الأدوات، وتعطيل الإجراءات الآلية، وينبغي تجنب استخدامها عند تسجيل الدخول إلى الحسابات المصرفية أو رسائل البريد الإلكتروني أو تطبيقات الرعاية الصحية.

اعترف مدير أمن المعلومات (CISO) في OpenAI، دين ستاكي، بمخاطر حقن الأوامر وكتب على X، "أحد المخاطر الناشئة التي ندرسها ونخففها بعناية فائقة هو حقن الأوامر، حيث يخفي المهاجمون تعليمات خبيثة في مواقع الويب أو رسائل البريد الإلكتروني أو مصادر أخرى لمحاولة خداع الوكيل للتصرف بطرق غير مقصودة."

وأوضح أن هدف OpenAI هو جعل الناس "يثقون بوكيل ChatGPT لاستخدام متصفحك، بنفس الطريقة التي تثق بها بزميلك أو صديقك الأكثر كفاءة وجدارة بالثقة ووعيًا بالأمان." وقال ستاكي إن فريق OpenAI "يعمل بجد لتحقيق ذلك."

اصقل استراتيجيتك مع التوجيه + أفكار يومية - 30 يومًا من الوصول المجاني إلى برنامج التداول الخاص بنا