Браузер Atlas от OpenAI: удобство против рисков

На прошлой неделе OpenAI представила ChatGPT Atlas – веб-браузер, призванный кардинально изменить наше взаимодействие с интернетом. Генеральный директор компании Сэм Альтман назвал это "возможностью раз в десятилетие" переосмыслить веб-серфинг.

Перспектива впечатляет: представьте себе помощника на базе искусственного интеллекта (ИИ), который следует за вами по всем сайтам, запоминает ваши предпочтения, резюмирует статьи и берет на себя рутинные задачи, такие как бронирование авиабилетов или заказ продуктов от вашего имени.

Однако за эффектным маркетингом скрывается более тревожная реальность. Atlas спроектирован как "агентный" – способный автономно перемещаться по веб-сайтам и совершать действия в ваших учетных записях. Это создает уязвимости в области безопасности и конфиденциальности, к управлению которыми большинство пользователей не готовы.

Пока OpenAI заявляет о новаторстве, она незаметно перекладывает бремя обеспечения безопасности на ничего не подозревающих потребителей, которым предлагается доверить ИИ свои самые конфиденциальные цифровые решения.

Что отличает агентный режим

В основе привлекательности Atlas лежит "агентный режим".

В отличие от традиционных браузеров, где вы перемещаетесь по интернету вручную, агентный режим позволяет ChatGPT полуавтономно управлять вашим браузером. Например, при запросе "найди коктейльный бар рядом с тобой и забронируй столик" он будет искать, оценивать варианты и пытаться сделать резервирование.

Технология работает, предоставляя ChatGPT доступ к вашему контексту просмотра. Он может видеть все открытые вкладки, взаимодействовать с формами, нажимать кнопки и переходить между страницами так же, как и вы.

В сочетании с функцией "воспоминания браузера" Atlas, которая регистрирует посещаемые вами сайты и ваши действия на них, ИИ формирует все более детальное представление о вашей цифровой жизни.

Эта контекстная осведомленность позволяет работать агентному режиму. Но именно она делает его опасно уязвимым.

Идеальный шторм рисков безопасности

Риски, присущие такой конструкции, выходят за рамки обычных проблем безопасности браузера.

Рассмотрим атаки внедрения команд (prompt injection), когда вредоносные веб-сайты встраивают скрытые команды, манипулирующие поведением ИИ. Представьте, что вы посещаете, казалось бы, законный сайт для покупок. Страница, однако, содержит невидимые инструкции, предписывающие ChatGPT извлечь личные данные из всех открытых вкладок – например, активного медицинского портала или черновика электронного письма – и затем получить конфиденциальную информацию без необходимости доступа к паролю.

Аналогичным образом, вредоносный код на одном веб-сайте потенциально может повлиять на поведение ИИ в нескольких вкладках. Например, скрипт на сайте покупок может обманом заставить ИИ-агента переключиться на вашу открытую банковскую вкладку и отправить форму перевода.

Возможности автозаполнения и функции взаимодействия с формами Atlas могут стать векторами атак. Это особенно актуально, когда ИИ принимает решения в доли секунды о том, какую информацию вводить и куда ее отправлять.

Функции персонализации усугубляют эти риски. "Воспоминания браузера" Atlas создают полные профили вашего поведения: посещаемые сайты, поисковые запросы, покупки и читаемый контент. Хотя OpenAI обещает, что эти данные по умолчанию не будут использоваться для обучения моделей, Atlas все же хранит больше личных данных в одном месте. Этот консолидированный массив информации представляет собой "медовую ловушку" для хакеров.

Если бизнес-модель OpenAI изменится, это также может стать золотой жилой для высокотаргетированной рекламы.

OpenAI заявляет, что пыталась защитить безопасность пользователей и провела тысячи часов симуляций атак. Компания также утверждает, что "добавила меры безопасности для устранения новых рисков, которые могут возникнуть из-за доступа к сайтам с активными сессиями и истории просмотров при совершении действий от вашего имени".

Однако компания по-прежнему признает, что "агенты подвержены скрытым вредоносным инструкциям, [которые] могут привести к краже данных с сайтов, на которых вы авторизованы, или к совершению действий, которые вы не намеревались совершать".

Снижение безопасности браузера

Это знаменует собой значительную эскалацию рисков безопасности браузера.

Например, песочница (sandboxing) – это подход к безопасности, предназначенный для изоляции веб-сайтов и предотвращения доступа вредоносного кода к данным из других вкладок. Современный веб зависит от этого разделения. Но в Atlas ИИ-агент – это не вредоносный код, а доверенный пользователь с разрешением видеть и действовать на всех сайтах. Это подрывает основной принцип изоляции браузера.

И хотя большинство опасений по поводу безопасности ИИ фокусировалось на том, что технология выдает неточную информацию, внедрение команд (prompt injection) гораздо опаснее. Это не ИИ совершает ошибку; это ИИ выполняет враждебную команду, скрытую в среде.

Atlas особенно уязвим, потому что он предоставляет контроль человеческого уровня слою интеллекта, которым можно манипулировать, прочитав одну вредоносную строку текста на недоверенном сайте.

Подумайте дважды, прежде чем использовать

Прежде чем агентный просмотр станет мейнстримом, нам необходимы тщательные сторонние аудиты безопасности от независимых исследователей, которые могут протестировать защиту Atlas против этих рисков. Нам нужны более четкие нормативные рамки, определяющие ответственность, когда ИИ-агенты допускают ошибки или подвергаются манипуляциям. И нам нужно, чтобы OpenAI доказала, а не просто обещала, что ее меры безопасности выдержат натиск целеустремленных злоумышленников.

Для тех, кто рассматривает возможность загрузки Atlas, совет прост: предельная осторожность.

Если вы все же решите использовать Atlas, подумайте дважды, прежде чем включать агентный режим на веб-сайтах, где вы обрабатываете конфиденциальную информацию. Относитесь к "воспоминаниям браузера" как к уязвимости безопасности и отключайте их, если у вас нет веских причин делиться всей историей просмотров с ИИ. Используйте режим инкогнито Atlas по умолчанию и помните, что каждая функция удобства одновременно является потенциальной уязвимостью.

Будущее браузинга с использованием ИИ, возможно, действительно неизбежно, но оно не должно достигаться за счет безопасности пользователей. Atlas от OpenAI предлагает нам поверить, что инновации опередят эксплуатацию. История подсказывает, что нам не стоит быть столь оптимистичными.