Исследование Университета Вашингтона изучило семь популярных веб‑браузеров с встроенными агентами искусственного интеллекта и выявило серьёзные риски для кибербезопасности. В четырёх из них команда нашла способы обойти политику одного происхождения (same‑origin policy), введённую в 1995 году и традиционно считавшуюся основой защиты данных в браузерах. Профессор Франциска Рёзнер подчеркнула важность этой политики для безопасности пользователей.
В доказательственном эксперименте на ChatGPT Atlas один встроенный сайт получил доступ к конфиденциальной информации другого сайта — по аналогии с рекламным блоком на почтовом сервисе, который видит содержимое писем. Команда также обнаружила условия для похожих атак в трёх других браузерах: Chrome с Gemini, Claude for Chrome и Perplexity Comet. Авторы отметили, что браузеры, дававшие агентам меньше разрешений, в целом выглядели безопаснее.
Учёные выделили две основные технические угрозы: инъекция подсказки (prompt injection), когда вредоносная страница скрывает инструкции, вынуждающие агента раскрыть или отправить данные, и отравление памяти (memory poisoning), при котором агент смешивает данные из разных источников при обновлении памяти. Исследователи поделились результатами с рядом компаний; некоторые не ответили, другие отказались от отчёта. Работа была представлена на Agents in the Wild Workshop в Рио‑де‑Жанейро и частично финансировалась подарками от Microsoft. Со‑старший автор Дэвид Кольбреннер заявил, что «агенты в браузерах ещё не готовы к массовому использованию».
Сложные слова
- политика одного происхождения — правило браузеров, ограничивающее доступ между сайтамиполитику одного происхождения
- кибербезопасность — защита компьютеров и данных от атаккибербезопасности
- инъекция подсказки — вредные инструкции, вводящие агента в заблуждение
- отравление памяти — смешивание данных из разных источников в памяти
- конфиденциальный — непредназначенный для общего доступа, секретныйконфиденциальной
- обойти — найти способ не подчиняться правилу или защите
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие преимущества и риски вы видите в использовании встроенных агентов в браузерах? Приведите примеры.
- Какие практические меры могли бы снизить угрозы инъекции подсказки и отравления памяти?
- Как вы считаете, влияет ли отказ некоторых компаний от отчёта на доверие пользователей к таким исследованиям и продуктам? Почему?
Похожие статьи
ИИ расширяет доступ к сексуальному и репродуктивному здоровью
В Латинской Америке исследователи и НПО используют генеративный ИИ, чтобы дать молодёжи и маргинализованным группам информацию о сексуальном и репродуктивном здоровье. Одновременно эксперты предупреждают о рисках и просят улучшить данные и контроль.
Приложение DopFone для домашнего контроля сердцебиения плода
Мобильное приложение DopFone превращает динамик телефона в допплеровский датчик и позволяет беременным следить за сердцебиением плода между приёмами у врача. Исследования показывают приемлемую точность, но учёные предупреждают о риске усиления тревоги.
«Робо‑броненосец»: сворачивающаяся защита для электроники
Учёные из North Carolina State University создали структуру MIPM, которая при касании автоматически сворачивается и укрывает электронные устройства. Устройство вдохновлено броненосцами и должно защищать мягкие роботы и гибкую электронику.
Искусственный интеллект для выявления причин смерти
Проект CODA, финансируемый Фондом Гейтсов на трёхлетний срок, использует искусственный интеллект для улучшения данных о причинах смерти в странах с низким доходом, где лишь 8% случаев имеют документированную причину. Система сочетает посмертные интервью и клинические данные и даёт рекомендации с уровнем уверенности.
