Стоит ли рисковать, используя ИИ-браузер?

Веб-браузеры не начинались как поисковые системы или помощники — они были простыми инструментами для загрузки веб-страниц. За десятилетия они обзавелись вкладками, расширениями, встроенным поиском и другими функциями, которые превратили их в центры онлайн-жизни.

\ Теперь браузеры с искусственным интеллектом (ИИ) делают следующий шаг. Они резюмируют контент, отвечают на вопросы и пытаются предугадать, что нужно пользователю. Хотя они могут предложить умные результаты и сэкономить время, это удобство сопряжено с новыми рисками для конфиденциальности и безопасности.

Что такое ИИ-браузер?

ИИ-браузер действует как стандартный веб-браузер, но имеет слой искусственного интеллекта, который может читать и взаимодействовать с веб-контентом от имени пользователя. Вместо загрузки страниц он может интерпретировать текст, извлекать важные части, отвечать на вопросы простым языком и выполнять множество задач, которые раньше требовали нескольких таблиц и поисков.

\ Их легче представить как гибрид между обычным браузером и разговорным помощником. Эти инструменты сочетают традиционный рендеринг страниц с чат-интерфейсом, который резюмирует статьи, цитирует источники и отвечает на дополнительные вопросы. Они стремятся сократить исследование до нескольких быстрых запросов вместо десятков кликов.

\ Опрос Центра исследований общественных дел Associated Press-NORC показал, что 60% американцев находят информацию с помощью ИИ по крайней мере иногда, поэтому ИИ-браузеры используют этот спрос. Примеры, уже используемые, включают Comet от Perplexity и Atlas от ChatGPT. Их ключевые функции включают:

• Резюме: Сжимает длинные статьи в сканируемое резюме
• Разговорный поиск: Может задавать дополнительные вопросы, уточнять результаты и уточнять запросы
• Автоматизация задач: Автоматизирует рутинные действия, такие как заполнение форм, извлечение данных с нескольких страниц, создание черновиков или составление списков из результатов поиска.

\ Каждая из этих функций меняет способ просмотра страниц людьми. Задачи, которые раньше занимали время, выполняются быстрее, но они также передают контроль слою ИИ браузера.

Основные риски

Каждая страница, которую открывает пользователь, запрос, который он вводит, или фрагмент, который резюмирует ИИ, может стать данными, которые браузер обрабатывает и, в зависимости от настроек, передает на внешние серверы ИИ. Эта информация может включать историю просмотров, содержание страниц, ввод форм и поисковые запросы — данные, которые злоумышленники или третьи стороны могут использовать, если они покидают устройство.

\ Эта возможность создает совершенно новую поверхность атаки. Например, злоумышленники могут создать веб-контент, который кажется безвредным, но содержит инструкции, которые обманывают помощника, заставляя его выполнять действия или раскрывать конфиденциальную информацию — класс уязвимостей, известный как внедрение промпта. Аудиты безопасности показали, что ИИ-браузеры уязвимы к атакам непрямого внедрения промпта, которые могут позволить вредоносной странице повысить привилегии или получить доступ к аутентифицированным сессиям.

\ Еще один риск безопасности — отравление данных. Если база знаний ИИ построена на веб-контенте, злоумышленники могут внедрить ложные документы, чтобы исказить поведение модели, что впоследствии влияет на ее выходные данные. Недавний анализ показывает, что отравление модели может быть эффективным даже против больших языковых моделей (LLMs). При внедрении всего 250 вредоносных страниц в LLMs с 13 миллиардами параметров эксперимент продемонстрировал успех в изменении выходных данных. В результате ИИ-браузеры могут быть так же уязвимы, как и LLMs, на неопределенный срок.

\ LLMs также склонны к созданию правдоподобных, но неверных результатов, известных как галлюцинации. В ИИ-браузере, который действует от имени пользователя — будь то составление электронных писем или заполнение форм — эти правдоподобно звучащие ошибки могут причинить реальный вред. Он может предоставить неверные инструкции или советы. Исследователи и практики задокументировали случаи, когда ошибки модели приводили к серьезным операционным сбоям и вводящим в заблуждение результатам.

Аргументы за и против использования ИИ-браузеров

ИИ-браузеры могут сделать повседневные веб-задачи заметно быстрее и доступнее. Они превращают длинные статьи в краткие резюме, позволяют людям задавать дополнительные вопросы и могут автоматизировать повторяющиеся задачи просмотра. Все это помогает повысить производительность и делает веб более удобным для людей с разными потребностями. Поскольку это облегчает жизнь пользователей, внедрение уже значительно. Фактически, 63% веб-сайтов теперь получают хотя бы некоторый трафик от ИИ-чатботов.

\ Однако эти преимущества также концентрируют данные, принятие решений и доверие внутри одного, часто непрозрачного слоя. Короче говоря, удобство и власть передаются программному обеспечению, которое пользователи не полностью контролируют или не могут легко проверить.

\ Эти проблемы могут создать осложнения для обычных пользователей, поскольку они увеличивают вероятность раскрытия или неправильного использования частных поисков. Для сотрудников, которые его используют, это создает хрупкие зависимости. Усугубляет риск тот факт, что многим удаленным работникам уже не хватает базовых знаний о безопасности, причем почти 25% удаленных сотрудников не понимают протоколы безопасности своих устройств. Люди могут перестать перепроверять автоматизированные результаты, и небольшие ошибки модели могут каскадно привести к дорогостоящим ошибкам.

\ Учитывая эти последствия, рациональным выбором сегодня является осторожность. ИИ-браузеры не должны быть полной заменой обычному просмотру или чувствительным рабочим процессам. Их использование должно быть ограничено и рассматриваться как нечто, что нужно проверить перед действием.

Как безопасно использовать ИИ-браузеры

Когда человек решает использовать ИИ-браузер, он должен ограничить то, что он ему предоставляет, используя следующие шаги:

• Используйте традиционный браузер для чувствительных задач, таких как банковские операции, электронная почта и порталы здравоохранения. Например, избегайте входа в финансовый аккаунт, чтобы предотвратить взлом.
• Создайте выделенный аккаунт для вашего профиля ИИ-браузера и защитите его уникальным паролем и многофакторной аутентификацией.
• Проверяйте и ограничивайте разрешения. Предоставляйте ИИ-браузеру только минимальный доступ, который ему необходим, и просматривайте политику конфиденциальности перед разрешением обработки вне устройства.
• Проверяйте, затем доверяйте. Не действуйте на основе автоматизированных результатов без быстрой проверки и относитесь к результатам как к черновикам, требующим человеческого рассмотрения.
• Если продукт позволяет, просматривайте и удаляйте сохраненную историю запросов и кэшированное содержание страниц. Предпочитайте продукты, которые позволяют пользователям отказаться от использования их контента для обучения модели и которые публикуют четкую политику хранения данных.
• Требуйте прозрачности от поставщика при развертывании для команды. Требуйте независимых аудитов безопасности, четкой модели угроз и письменных гарантий о том, какие данные отправляются с устройства. Избегайте внедрения ИИ-браузеров для сотрудников, пока эти меры контроля не будут на месте.

Дважды подумайте, прежде чем позволить ИИ просматривать за вас

ИИ-браузеры обещают более быстрый, умный просмотр. Тем не менее, они также приносят неопределенность. Используйте эти инструменты вдумчиво, а не рефлексивно, и держите под рукой легкий скептицизм. Осторожный, взвешенный подход будет служить пользователям лучше, чем слепой энтузиазм.