Чи варто ризикувати, використовуючи ШІ-браузер?

Веб-браузери не починалися як пошукові системи чи помічники — вони були простими інструментами для завантаження веб-сторінок. Протягом десятиліть вони отримали вкладки, розширення, вбудований пошук та інші функції, які перетворили їх на центри онлайн-життя.

\ Тепер браузери, керовані штучним інтелектом (ШІ), роблять наступний крок. Вони узагальнюють вміст, відповідають на запитання та намагаються передбачити, що потрібно користувачеві. Хоча вони можуть пропонувати розумні результати та економити час, ця зручність супроводжується новими ризиками для приватності та безпеки.

Що таке ШІ-браузер?

ШІ-браузер діє як стандартний веб-браузер, але має шар штучного інтелекту, який може читати та взаємодіяти з веб-вмістом від імені користувача. Замість завантаження сторінок він може інтерпретувати текст, витягувати важливі фрагменти, відповідати на запитання простою мовою та виконувати кілька завдань, які раніше вимагали кількох таблиць і пошуків.

\ Їх легше уявити як гібрид між звичайним браузером і розмовним помічником. Ці інструменти поєднують традиційне відображення сторінок з інтерфейсом чату, який узагальнює статті, цитує джерела та відповідає на запитання. Вони прагнуть скоротити дослідження до кількох швидких запитів замість десятків кліків.

\ Опитування Центру дослідження громадських справ Associated Press-NORC показало, що 60% американців знаходять інформацію за допомогою ШІ принаймні іноді, тому ШІ-браузери використовують цей попит. Приклади, які вже використовуються, включають Comet від Perplexity та Atlas від ChatGPT. Їхні ключові функції включають:

• Узагальнення: стискає довгі статті до зручного для сканування резюме
• Розмовний пошук: може ставити додаткові запитання, уточнювати результати та вдосконалювати запити
• Автоматизація завдань: автоматизує рутинні дії, такі як заповнення форм, витягування даних з кількох сторінок, створення чернеток або складання списків з результатів пошуку.

\ Кожна з цих функцій змінює спосіб перегляду сторінок користувачами. Завдання, які раніше займали час, виконуються швидше, але вони також передають контроль шару ШІ браузера.

Основні ризики

Кожна сторінка, яку відкриває користувач, запит, який він вводить, або фрагмент, який узагальнює ШІ, може стати даними, які обробляє браузер і, залежно від налаштувань, передає на зовнішні сервери ШІ. Ця інформація може включати історію перегляду, вміст сторінки, введені дані форм та пошукові запити — дані, які зловмисники або треті сторони можуть використати, якщо вони залишають пристрій.

\ Ця можливість створює абсолютно нову поверхню для атак. Наприклад, зловмисники можуть створювати веб-вміст, який виглядає нешкідливим, але містить інструкції, які обманюють помічника, змушуючи його виконувати дії або розкривати конфіденційну інформацію — клас недоліків, відомий як ін'єкція запитів. Аудити безпеки показали, що ШІ-браузери вразливі до непрямих атак ін'єкції запитів, які можуть дозволити шкідливій сторінці підвищити привілеї або отримати доступ до автентифікованих сесій.

\ Іншим ризиком безпеки є отруєння даних. Якщо база знань ШІ побудована на основі веб-вмісту, зловмисники можуть поширювати фальшиві документи, щоб спотворити поведінку моделі, що згодом впливає на її результати. Нещодавній аналіз показує, що отруєння моделі може бути ефективним навіть проти великих мовних моделей (LLM). При введенні лише 250 шкідливих сторінок у LLM з 13 мільярдами параметрів експеримент продемонстрував успіх у зміні результатів. Як наслідок, ШІ-браузери можуть бути так само вразливими, як і LLM, на невизначений час.

\ LLM також схильні до створення правдоподібних, але неправильних результатів, відомих як галюцинації. У ШІ-браузері, який діє від імені користувача — чи то складає електронні листи, чи заповнює форми — ці правдоподібні помилки можуть завдати реальної шкоди. Він може надавати неправильні інструкції або поради. Дослідники та практики задокументували випадки, коли помилки моделі призводили до серйозних операційних збоїв та оманливих результатів.

Аргументи за і проти використання ШІ-браузерів

ШІ-браузери можуть зробити повсякденні веб-завдання помітно швидшими та доступнішими. Вони перетворюють довгі статті на короткі резюме, дозволяють людям ставити додаткові запитання та можуть автоматизувати повторювані завдання перегляду. Все це підвищує продуктивність і робить веб простішим у використанні для людей з різними потребами. Оскільки це полегшує життя користувачів, впровадження вже є значним. Фактично, 63% веб-сайтів зараз отримують принаймні деякий трафік від ШІ-чатботів.

\ Однак ці переваги також концентрують дані, прийняття рішень і довіру в одному, часто непрозорому шарі. Коротше кажучи, зручність і потужність передаються програмному забезпеченню, яке користувачі не повністю контролюють або не можуть легко перевірити.

\ Ці проблеми можуть створювати ускладнення для звичайних користувачів, оскільки вони збільшують ймовірність розкриття або неправильного використання приватних пошуків. Для працівників, які його використовують, це створює крихкі залежності. Ризик посилюється тим фактом, що багатьом віддаленим працівникам вже бракує базової обізнаності щодо безпеки, причому майже 25% віддалених працівників не розуміють протоколів безпеки своїх пристроїв. Люди можуть перестати перевіряти автоматизовані результати, а невеликі помилки моделі можуть перерости в дорогі помилки.

\ З огляду на ці наслідки, раціональним вибором сьогодні є обережність. ШІ-браузери не повинні бути повною заміною звичайного перегляду або чутливих робочих процесів. Їх використання має бути обмеженим і розглядатися як щось, що потрібно перевірити перед дією.

Як безпечно використовувати ШІ-браузери

Коли людина вирішує використовувати ШІ-браузер, вона повинна обмежити те, що вона йому надає, виконавши наступні кроки:

• Використовуйте традиційний браузер для чутливих завдань, таких як банкінг, електронна пошта та портали охорони здоров'я. Наприклад, уникайте входу у фінансовий акаунт, щоб запобігти порушенню.
• Створіть окремий акаунт для профілю вашого ШІ-браузера та захистіть його унікальним паролем і багатофакторною автентифікацією.
• Перевіряйте та обмежуйте дозволи. Надавайте ШІ-браузеру лише мінімальний доступ, який йому потрібен, і перегляньте політику конфіденційності перед тим, як дозволити обробку поза пристроєм.
• Перевіряйте, а потім довіряйте. Не дійте на основі автоматизованих результатів без швидкої перевірки і розглядайте результати як чернетки, які потребують людського перегляду.
• Якщо продукт дозволяє, переглядайте та видаляйте збережену історію запитів і кешований вміст сторінок. Віддавайте перевагу продуктам, які дозволяють користувачам відмовитися від використання їхнього вмісту для навчання моделі та які публікують чітку політику збереження даних.
• Вимагайте прозорості від постачальника, якщо впроваджуєте для команди. Вимагайте незалежних аудитів безпеки, чіткої моделі загроз і письмових гарантій щодо того, які дані відправляються з пристрою. Уникайте впровадження ШІ-браузерів для працівників, доки ці заходи контролю не будуть впроваджені.

Подумайте двічі, перш ніж дозволити ШІ переглядати за вас

ШІ-браузери обіцяють швидший, розумніший перегляд. Проте вони також приносять невизначеність. Використовуйте ці інструменти обдумано, а не рефлекторно, і зберігайте легкий скептицизм. Обережний, виважений підхід служитиме користувачам краще, ніж сліпий ентузіазм.