PANews сообщил 24 октября, что, согласно simonwillison.net, исследование выявило системный риск "непрямого внедрения промпта" в ИИ-браузерах. Команда Brave продемонстрировала, что браузер Comet от Perplexity можно обмануть, заставив его автоматически получать доступ к данным аккаунта и извлекать информацию через внешние ссылки с помощью невидимых команд, встроенных в скриншоты. Однако ситуация с Fellou была еще серьезнее: текст страницы обманывал его, заставляя открывать Gmail и отправлять заголовки последних писем на внешний сайт. Оба случая выполнялись без подтверждения пользователя и вызывали опасения относительно безопасности электронной почты и финансовой безопасности. Brave не уточнил, были ли эти уязвимости устранены поставщиком. Главный специалист по информационной безопасности OpenAI, Дейн Стаки, опубликовал обширную статью, раскрывающую защиту агента ChatGPT Atlas от внедрения промптов: через тестирование красной командой, обучение с вознаграждениями для игнорирования злонамеренных команд, перекрывающиеся барьеры безопасности и блокировку обнаружения атак; он предложил "многоуровневую защиту" и признал, что внедрение промптов остается нерешенной передовой проблемой.PANews сообщил 24 октября, что, согласно simonwillison.net, исследование выявило системный риск "непрямого внедрения промпта" в ИИ-браузерах. Команда Brave продемонстрировала, что браузер Comet от Perplexity можно обмануть, заставив его автоматически получать доступ к данным аккаунта и извлекать информацию через внешние ссылки с помощью невидимых команд, встроенных в скриншоты. Однако ситуация с Fellou была еще серьезнее: текст страницы обманывал его, заставляя открывать Gmail и отправлять заголовки последних писем на внешний сайт. Оба случая выполнялись без подтверждения пользователя и вызывали опасения относительно безопасности электронной почты и финансовой безопасности. Brave не уточнил, были ли эти уязвимости устранены поставщиком. Главный специалист по информационной безопасности OpenAI, Дейн Стаки, опубликовал обширную статью, раскрывающую защиту агента ChatGPT Atlas от внедрения промптов: через тестирование красной командой, обучение с вознаграждениями для игнорирования злонамеренных команд, перекрывающиеся барьеры безопасности и блокировку обнаружения атак; он предложил "многоуровневую защиту" и признал, что внедрение промптов остается нерешенной передовой проблемой.