PANews relatou em 24 de outubro que, de acordo com simonwillison.net, pesquisas revelaram um risco sistémico de "injeção indireta de prompt" em navegadores de IA. A equipa da Brave demonstrou que o navegador Comet da Perplexity poderia ser enganado para aceder automaticamente a detalhes de conta e exfiltrar dados através de links externos via comandos invisíveis incorporados em capturas de ecrã. Fellou, no entanto, foi ainda mais grave, com texto da página enganando-o para abrir o Gmail e enviar os cabeçalhos dos e-mails mais recentes para um site externo. Ambos os casos envolveram execução sem confirmação do utilizador e preocupações sobre segurança de e-mail e financeira. A Brave não esclareceu se estas vulnerabilidades foram resolvidas pelo fornecedor. O Diretor de Segurança da Informação da OpenAI, Dane Stuckey, publicou um extenso artigo revelando a proteção do agente Atlas do ChatGPT contra injeção de prompt: através de testes de equipa vermelha, recompensas de treino para ignorar comandos maliciosos, camadas de segurança sobrepostas e bloqueio de deteção de ataques; ele propôs "defesa em profundidade" e reconheceu que a injeção de prompt continua a ser um problema de ponta não resolvido.PANews relatou em 24 de outubro que, de acordo com simonwillison.net, pesquisas revelaram um risco sistémico de "injeção indireta de prompt" em navegadores de IA. A equipa da Brave demonstrou que o navegador Comet da Perplexity poderia ser enganado para aceder automaticamente a detalhes de conta e exfiltrar dados através de links externos via comandos invisíveis incorporados em capturas de ecrã. Fellou, no entanto, foi ainda mais grave, com texto da página enganando-o para abrir o Gmail e enviar os cabeçalhos dos e-mails mais recentes para um site externo. Ambos os casos envolveram execução sem confirmação do utilizador e preocupações sobre segurança de e-mail e financeira. A Brave não esclareceu se estas vulnerabilidades foram resolvidas pelo fornecedor. O Diretor de Segurança da Informação da OpenAI, Dane Stuckey, publicou um extenso artigo revelando a proteção do agente Atlas do ChatGPT contra injeção de prompt: através de testes de equipa vermelha, recompensas de treino para ignorar comandos maliciosos, camadas de segurança sobrepostas e bloqueio de deteção de ataques; ele propôs "defesa em profundidade" e reconheceu que a injeção de prompt continua a ser um problema de ponta não resolvido.