Группа из Университета Вашингтона провела исследование семи популярных браузеров с агентами ИИ и обнаружила серьёзные риски кибербезопасности. В четырёх браузерах команда нашла способы обойти политику одного происхождения, ключевое правило, которое не позволяет сайтам получать доступ к данным друг друга при одновременной работе в браузере.
Учёные выполнили доказательственную атаку на ChatGPT Atlas: в эксперименте один сайт был встроен в другой и сумел похитить информацию, что сравнили с рекламным блоком, получающим доступ к письмам на почтовом сайте. Похожие условия для атак обнаружили в Chrome с Gemini, Claude for Chrome и Perplexity Comet.
Авторы выделили две технические угрозы — инъекцию подсказки, когда скрытые инструкции заставляют агента раскрыть данные, и отравление памяти, при котором смешиваются данные из разных источников. Исследователи сообщили результаты компаниям и представили работу на Agents in the Wild Workshop в Рио‑де‑Жанейро.
Сложные слова
- политика одного происхождения — правило, запрещающее сайтам обмениваться даннымиполитику одного происхождения
- инъекция подсказки — скрытые инструкции, которые вводят агента в заблуждениеинъекцию подсказки
- отравление памяти — смешивание данных из разных источников в памяти
- доказательственная атака — экспериментальная атака, показывающая уязвимость системыдоказательственную атаку
- агент ИИ — автономная программа с искусственным интеллектомагентами ИИ
- встроить — поместить один элемент внутрь другоговстроен
- похитить — взять или забрать данные незаконно
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие последствия для пользователей могут быть при обходе политики одного происхождения в браузерах с агентами ИИ?
- Что, по вашему мнению, должны сделать компании после получения результатов такого исследования?
- Вы бы продолжили использовать браузер с интегрированным агентом ИИ после таких сообщений? Почему да или нет?
Похожие статьи
Инструмент снижает партийную враждебность в ленте X
Исследователи создали браузерное расширение с большой языковой моделью, которое переставляет политические записи в ленте X без их удаления. В массовом эксперименте инструмент уменьшал враждебность и улучшал отношения между сторонниками разных партий.
Как клетки и молекулы формируют мозговые сети
Учёные объединили данные сканов, генетики и молекулярной визуализации, чтобы связать микроскопические признаки мозга с крупномасштабными сетями, наблюдаемыми при fMRI. Работа опубликована в Nature Communications и связана с депрессией, шизофренией и болезнью Альцгеймера.
ИИ и наблюдатели нашли Anopheles stephensi на Мадагаскаре
Исследователи с помощью искусственного интеллекта и фотографий гражданских наблюдателей идентифицировали, по их мнению, первое обнаружение Anopheles stephensi на Мадагаскаре. ВОЗ предупреждает, что распространение вида угрожает контролю малярии в Африке.