AI 網頁瀏覽器為未知的安全風險打開大門

來自 OpenAI 的 Atlas 和 Perplexity 的 Comet 等 AI 瀏覽器承諾提供便利。 但它們帶來重大網絡安全風險，形成駭客的新遊樂場。

AI 驅動的網頁瀏覽器與 Google Chrome 和 Brave 等傳統瀏覽器競爭，旨在吸引數十億日常網路用戶。

幾天前，OpenAI 發布了 Atlas，而 Perplexity 的 Comet 已經存在數月。AI 驅動的瀏覽器可以輸入並點擊頁面。用戶可以告訴它預訂機票、總結電子郵件，甚至填寫表格。

基本上，AI 驅動的瀏覽器被設計為數字助手，能夠自主導航網頁。它們被譽為在線生產力的下一個重大飛躍。

安全研究人員指出 AI 瀏覽器缺陷

但大多數消費者不了解使用 AI 瀏覽器帶來的安全風險。這類瀏覽器容易受到通過一種稱為提示注入的新現象進行的複雜攻擊。

駭客可以利用 AI 網頁瀏覽器，獲取用戶的登錄會話，並執行未授權操作。例如，駭客可以訪問電子郵件、社交媒體帳戶，甚至查看銀行詳細信息並轉移資金。

根據 Brave 最近的研究，駭客可以在網頁甚至圖像中嵌入隱藏指令。當 AI 代理分析這些內容並看到隱藏指令時，它可能被欺騙執行這些指令，就像它們是合法的用戶命令一樣。AI 網頁瀏覽器無法區分真實和虛假的用戶指令。

Brave 工程師對 Perplexity 的 Comet 進行了實驗，測試其對提示注入的反應。發現 Comet 會處理隱藏在截圖中的不可見文本。這種方法使攻擊者能夠輕鬆控制瀏覽工具並提取用戶數據。

Brave 的工程師稱這些漏洞是"整個 AI 驅動瀏覽器類別面臨的系統性挑戰"。

提示注入難以修復

安全研究人員和工程師表示，提示注入難以修復。這是因為人工智能模型不了解指令來自何處。它們無法區分真實和虛假提示。

傳統軟件可以區分安全輸入和惡意代碼，但大型語言模型（LLMs）在這方面存在困難。LLMs 處理所有內容，包括用戶請求、網站文本，甚至隱藏數據，並將其視為一個大對話。

這就是為什麼提示注入很危險。駭客可以輕鬆地在看似安全的內容中隱藏虛假指令並竊取敏感信息。

AI 公司承認提示注入是嚴重威脅

Perplexity 表示，此類攻擊不依賴代碼或被盜密碼，而是操縱 AI 的"思考過程"。該公司在 Comet 周圍建立了多層防禦來阻止提示注入攻擊。它使用機器學習模型實時檢測威脅，並整合了保持 AI 專注於用戶意圖的護欄提示。此外，瀏覽器要求對發送電子郵件或購買物品等敏感操作進行強制用戶確認。

安全研究人員認為，在推出重大改進之前，不應將 AI 驅動的瀏覽器用於敏感帳戶或個人數據。用戶仍可使用 AI 網頁瀏覽器，但不能訪問工具，禁用自動操作，並應避免在登錄銀行帳戶、電子郵件或醫療應用程序時使用它們。

OpenAI 的首席信息安全官（CISO）Dane Stuckey 承認了提示注入的危險，並在 X 上寫道："我們正在非常謹慎研究和緩解的一個新興風險是提示注入，攻擊者在網站、電子郵件或其他來源中隱藏惡意指令，試圖欺騙代理以非預期方式行事。"

他解釋說，OpenAI 的目標是讓人們"信任 ChatGPT 代理使用你的瀏覽器，就像你信任最能幹、最值得信賴且具有安全意識的同事或朋友一樣"。Stuckey 表示 OpenAI 團隊正在"努力實現這一目標"。

通過指導和每日想法提升您的策略 - 30 天免費訪問我們的交易計劃