AI网络浏览器为未知的安全风险打开了大门

来自OpenAI的Atlas和Perplexity的Comet等AI浏览器承诺提供便利。 但它们带来了重大的网络安全风险，为黑客形成了新的游乐场。

AI驱动的网络浏览器与谷歌Chrome和Brave等传统浏览器竞争，旨在吸引数十亿日常互联网用户。

几天前，OpenAI发布了Atlas，而Perplexity的Comet已经存在数月。AI驱动的浏览器可以输入并点击浏览页面。用户可以告诉它预订航班、总结电子邮件，甚至填写表格。

基本上，AI驱动的浏览器被设计为数字助手，能够自主导航网络。它们被誉为在线生产力的下一个重大飞跃。

安全研究人员指出AI浏览器缺陷

但大多数消费者不了解使用AI浏览器带来的安全风险。这类浏览器容易受到通过一种称为提示注入的新现象进行的复杂黑客攻击。

黑客可以利用AI网络浏览器，获取用户的登录会话访问权限，并执行未授权的操作。例如，黑客可以访问电子邮件、社交媒体账户，甚至查看银行详情并转移资金。

根据Brave最近的研究，黑客可以在网页甚至图像中嵌入隐藏指令。当AI代理分析这些内容并看到隐藏指令时，它可能被欺骗执行这些指令，就像它们是合法的用户命令一样。AI网络浏览器无法区分真实和虚假的用户指令。

Brave工程师对Perplexity的Comet进行了实验，测试其对提示注入的反应。发现Comet会处理隐藏在截图中的不可见文本。这种方法使攻击者能够轻松控制浏览工具并提取用户数据。

Brave的工程师称这些漏洞是"整个AI驱动浏览器类别面临的系统性挑战"。

提示注入难以修复

安全研究人员和工程师表示，提示注入难以修复。这是因为人工智能模型不了解指令来自何处。它们无法区分真实和虚假的提示。

传统软件可以区分安全输入和恶意代码，但大型语言模型（LLMs）在这方面存在困难。LLMs处理所有内容，包括用户请求、网站文本，甚至隐藏数据，并将其视为一个大对话。

这就是为什么提示注入很危险。黑客可以轻松地在看似安全的内容中隐藏虚假指令并窃取敏感信息。

AI公司承认提示注入是严重威胁

Perplexity表示，此类攻击不依赖代码或被盗密码，而是操纵AI的"思考过程"。该公司在Comet周围构建了多层防御来阻止提示注入攻击。它使用机器学习模型实时检测威胁，并整合了保持AI专注于用户意图的护栏提示。此外，浏览器要求对发送电子邮件或购买物品等敏感操作进行强制用户确认。

安全研究人员认为，在推出重大改进之前，不应将AI驱动的浏览器用于敏感账户或个人数据。用户仍可使用AI网络浏览器，但不应访问工具，应禁用自动操作，并应避免在登录银行账户、电子邮件或医疗保健应用程序时使用它们。

OpenAI的首席信息安全官（CISO）Dane Stuckey承认了提示注入的危险，并在X上写道："我们正在非常深思熟虑地研究和缓解的一个新兴风险是提示注入，攻击者在网站、电子邮件或其他来源中隐藏恶意指令，试图欺骗代理以非预期方式行事。"

他解释说，OpenAI的目标是让人们"信任ChatGPT代理使用你的浏览器，就像你信任最能干、最值得信赖和最具安全意识的同事或朋友一样"。Stuckey表示OpenAI团队"正在努力实现这一目标"。

通过指导和每日想法锻炼您的策略 - 30天免费访问我们的交易计划