Исследователи из Университета Вашингтона изучили семь популярных браузеров с встроенными агентами ИИ и предупредили о рисках для безопасности. В четырёх браузерах они нашли способы обхода правила защиты сайтов, называемого политикой одного происхождения.
В доказательном эксперименте встроенный сайт получил доступ к конфиденциальным данным в другом окне — по примеру рекламного блока, который видит письма на почтовом сайте. Учёные также отметили, что браузеры, дававшие агентам меньше разрешений, оказывались безопаснее.
Авторы выделили две главные угрозы: инъекция подсказки и отравление памяти, а также сообщили о результатах компаниям-разработчикам.
Сложные слова
- исследователь — люди, которые изучают и проверяют информациюИсследователи
- встроенный — находящийся внутри другой программы или устройствавстроенными
- политика одного происхождения — правило в браузере о доступе между сайтамиполитикой одного происхождения
- конфиденциальный — о данных, которые нужно хранить в тайнеконфиденциальным
- инъекция подсказки — введение вредной инструкции для агента ИИ
- отравление памяти — вредное изменение данных, которые хранит программа
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по тексту, браузеры с меньшими разрешениями оказались безопаснее?
- Какие две основные угрозы назвали авторы статьи?
- Какой пример риска показали учёные в доказательном эксперименте?
Похожие статьи
Инструмент снижает партийную враждебность в ленте X
Исследователи создали браузерное расширение с большой языковой моделью, которое переставляет политические записи в ленте X без их удаления. В массовом эксперименте инструмент уменьшал враждебность и улучшал отношения между сторонниками разных партий.
Как клетки и молекулы формируют мозговые сети
Учёные объединили данные сканов, генетики и молекулярной визуализации, чтобы связать микроскопические признаки мозга с крупномасштабными сетями, наблюдаемыми при fMRI. Работа опубликована в Nature Communications и связана с депрессией, шизофренией и болезнью Альцгеймера.
ИИ и наблюдатели нашли Anopheles stephensi на Мадагаскаре
Исследователи с помощью искусственного интеллекта и фотографий гражданских наблюдателей идентифицировали, по их мнению, первое обнаружение Anopheles stephensi на Мадагаскаре. ВОЗ предупреждает, что распространение вида угрожает контролю малярии в Африке.