Исследование Университета Вашингтона изучило семь популярных веб‑браузеров с встроенными агентами искусственного интеллекта и выявило серьёзные риски для кибербезопасности. В четырёх из них команда нашла способы обойти политику одного происхождения (same‑origin policy), введённую в 1995 году и традиционно считавшуюся основой защиты данных в браузерах. Профессор Франциска Рёзнер подчеркнула важность этой политики для безопасности пользователей.
В доказательственном эксперименте на ChatGPT Atlas один встроенный сайт получил доступ к конфиденциальной информации другого сайта — по аналогии с рекламным блоком на почтовом сервисе, который видит содержимое писем. Команда также обнаружила условия для похожих атак в трёх других браузерах: Chrome с Gemini, Claude for Chrome и Perplexity Comet. Авторы отметили, что браузеры, дававшие агентам меньше разрешений, в целом выглядели безопаснее.
Учёные выделили две основные технические угрозы: инъекция подсказки (prompt injection), когда вредоносная страница скрывает инструкции, вынуждающие агента раскрыть или отправить данные, и отравление памяти (memory poisoning), при котором агент смешивает данные из разных источников при обновлении памяти. Исследователи поделились результатами с рядом компаний; некоторые не ответили, другие отказались от отчёта. Работа была представлена на Agents in the Wild Workshop в Рио‑де‑Жанейро и частично финансировалась подарками от Microsoft. Со‑старший автор Дэвид Кольбреннер заявил, что «агенты в браузерах ещё не готовы к массовому использованию».
Сложные слова
- политика одного происхождения — правило браузеров, ограничивающее доступ между сайтамиполитику одного происхождения
- кибербезопасность — защита компьютеров и данных от атаккибербезопасности
- инъекция подсказки — вредные инструкции, вводящие агента в заблуждение
- отравление памяти — смешивание данных из разных источников в памяти
- конфиденциальный — непредназначенный для общего доступа, секретныйконфиденциальной
- обойти — найти способ не подчиняться правилу или защите
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие преимущества и риски вы видите в использовании встроенных агентов в браузерах? Приведите примеры.
- Какие практические меры могли бы снизить угрозы инъекции подсказки и отравления памяти?
- Как вы считаете, влияет ли отказ некоторых компаний от отчёта на доверие пользователей к таким исследованиям и продуктам? Почему?
Похожие статьи
ИИ выявляет риск ADHD по медицинским картам
Учёные показали, что искусственный интеллект может по рутинным электронным медицинским картам предсказать риск развития ADHD у детей за годы до диагноза. Инструмент не ставит диагноз, а помогает выделить детей для раннего наблюдения и оценки.
Сокращения помощи в 2025 году угрожают здравоохранению
В 2025 году крупные сокращения международной помощи, начавшиеся после распоряжения президента США 20 января приостановить зарубежные контракты, привели к остановке служб, закрытию USAID и угрозе для здравоохранения в десятках стран.
Новый световой метод для измерения активности клеток мозга
Учёные создали инструмент на основе биолюминесценции, который измеряет активность внутри живых клеток мозга без внешнего освещения. Метод работает в экспериментах на мышах и рыбках и позволяет записывать сигнал много часов подряд.
