Программы для просмотра веб-страниц на базе искусственного интеллекта создают значительные риски для защиты персональных данных пользователей из-за особенностей их конструкции. Новое научное исследование указывает, что подобные системы обладают возможностью одновременного сбора информации из нескольких открытых страниц в интернете, ошибочно анализировать опасный код на непроверенных сайтах и передавать личные сведения пользователя недобросовестным лицам.

Ученые отмечают, что чем больше функций получает искусственный интеллект и чем более широкие права предоставляет ему пользователь, тем выше вероятность компрометации информации. По их оценке, современные браузеры с ИИ пока недостаточно подготовлены для использования людьми, хранящими в них конфиденциальную информацию.

Веб-браузеры на базе искусственного интеллекта набирают популярность. В общем и целом они функционируют как обычные программы просмотра веб-страниц, но дополнены диалоговыми системами ИИ, которые могут анализировать содержимое нескольких сайтов, формировать краткие обзоры и автоматически выполнять различные действия по просьбе пользователя.

К примеру, пользователь может попросить программу для просмотра веб-страниц на базе искусственного интеллекта организовать поездку. После одной короткой инструкции система способна самостоятельно открыть страницы с маршрутами, заведениями общественного питания и гостиницами, выбрать подходящие варианты, оформить необходимые заказы и внести запланированные события в личный график пользователя.

Традиционный веб-браузер заставляет пользователя вручную переключаться между разными страницами, сопоставлять предложения и завершать транзакции вроде покупок или бронирований. Интеллектуальный браузер на базе искусственного интеллекта способен упростить этот путь, определяя желания человека и выполняя необходимые действия от его лица. Но именно эта возможность одновременного просмотра и обработки данных из различных мест возникновения представляет собой новые угрозы для безопасности.

Работа, продемонстрированная в апреле на научной конференции «Agents in the Wild», прошедшей в Рио-де-Жанейро, была сосредоточена на слабых сторонах защиты личной информации при использовании ИИ-браузеров.

«Автоматизированные системы на базе искусственного интеллекта для работы в веб-браузерах пока не достигли уровня зрелости, необходимого для широкого распространения. , — отметил соавтор исследования и преподаватель кафедры компьютерных наук Вашингтонского университета Дэвид Колбреннер.

По его мнению, даже опытные пользователи не должны полагаться на то, что программы с искусственным интеллектом способны гарантировать безопасность данных, если они получили доступ к браузеру, где хранятся адреса электронной почты, реквизиты банковских карт и другие конфиденциальные сведения.

Обычные интернет-обозреватели применяют систему защиты под названием «политика жестакое происхождения». Она ограничивает возможность обмена данными и взаимодействия между страницами, загруженными в браузере одновременно.

К примеру, если пользователь имеет открытыми вкладки онлайн-банка и веб-ресурса с вредоносным кодом, то политика жестакого происхождения обычно препятствует передаче данных из банковской страницы на страницу с потенциально опасной программой.

В отличие от них, искусственно-интеллектуальные браузеры функционируют по другой схеме. Они способны обрабатывать информацию и получать доступ к содержимому нескольких вкладок одновременно, анализируя данные, поступающие из различных источников. Фактически, их возможности анализа могут быть сопоставимы с тем объемом информации, который воспринимает сам человек.

Специалисты провели исследование, чтобы определить, какие риски для защиты личных данных возникают из-за наличия у ИИ такой функциональности. В рамках работы были проанализированы семь систем искусственного интеллекта и браузеров: ChatGPT Atlas, Claude для Chrome, Brave Leo AI, Chrome с Gemini, Microsoft Edge с Copilot, Firefox AI Mode и Perplexity Comet.

Эксперты оценивали, к каким данным могли получить доступ ИИ-браузеры на веб-ресурсах различного происхождения, какие операции способны выполнять искусственные интеллект-агенты, а также как история переписки с пользователем и текущий контекст воздействуют на их работу.

В ходе смоделированной кибератаки удалось спровоцировать ChatGPT Atlas на получение данных с веб-страницы. Данный сценарий аналогичен ситуации, когда вредоносное программное обеспечение через всплывающую рекламу получает доступ к личной информации пользователя из его электронной почты.

Подобные возможности были выявлены и у Chrome с Gemini, Claude для Chrome и Perplexity Comet. При этом системы, предоставляющие ИИ-агентам ограниченный набор прав доступа, демонстрировали более высокий уровень безопасности.

«В некоторой мере это напоминает те же типы воздействий, которые могли бы быть направлены против людей, но модифицированные для взаимодействия с машинами. », — уточнил Колбреннер. Он отметил, что механизмы защиты искусственного интеллекта совершенствуются, несмотря на то, что они остаются восприимчивыми к воздействиям, которые могли бы не затронуть человека.

Специалисты также определили дополнительную возможную опасность, которую обозначили как «коррупция памяти». Программы искусственного интеллекта, выполняющие функции браузера, обладают возможностью сохранять данные для последующего использования. Однако собранная информация может сама стать целью злонамеренных действий.

«Нам удалось установить, что некоторые программы объединяли сведения из различных источников, скорее всего, в процессе пересмотра и сжатия своей памяти. », – поделилась соавтор научной работы Франциска Рёснер, преподаватель Школы Аллена при Вашингтонском университете.

Следовательно, дезинформация, поступившая из одного канала связи, в перспективе может изменить действия искусственного интеллекта. К примеру, если программный агент для просмотра веб-страниц зайдет на площадку с инструкцией по публикации учетных данных пользователей, он может неверно интерпретировать это как распоряжение самого пользователя и попытаться его выполнить.

Соответственно, чем более разнообразен функционал ИИ-агента и чем больше прав ему предоставляется, тем выше риск потенциальных уязвимостей. Система, обладающая возможностью самостоятельно просматривать веб-сайты, анализировать коммуникации, управлять аккаунтами и совершать действия от лица пользователя, одновременно получает доступ к значительному объему конфиденциальной информации.

Представители исследовательской группы заявили о том, что делились выявленными недостатками с разработчиками из Google, Microsoft и Brave. Рёснер отметила, что компании активно разрабатывают ИИ-браузеры в условиях борьбы за лидерство на рынке, но вопрос их надёжности пока не имеет окончательного решения.

По ее словам, спустя около трех десятилетий эволюции стратегии централизованного управления, появление современных искусственных интеллект-браузеров может повлечь за собой существенный откат в вопросах конфиденциальности. Основное затруднение заключается в том, что привычная схема обеспечения безопасности разрабатывалась для веб-обозревателя, где ресурсы функционируют раздельно, тогда как оператору на базе ИИ необходимо получать доступ к данным из различных мест и интегрировать их.