Исследователи из Университета Вашингтона изучили семь популярных браузеров с встроенными агентами ИИ и предупредили о рисках для безопасности. В четырёх браузерах они нашли способы обхода правила защиты сайтов, называемого политикой одного происхождения.
В доказательном эксперименте встроенный сайт получил доступ к конфиденциальным данным в другом окне — по примеру рекламного блока, который видит письма на почтовом сайте. Учёные также отметили, что браузеры, дававшие агентам меньше разрешений, оказывались безопаснее.
Авторы выделили две главные угрозы: инъекция подсказки и отравление памяти, а также сообщили о результатах компаниям-разработчикам.
Сложные слова
- исследователь — люди, которые изучают и проверяют информациюИсследователи
- встроенный — находящийся внутри другой программы или устройствавстроенными
- политика одного происхождения — правило в браузере о доступе между сайтамиполитикой одного происхождения
- конфиденциальный — о данных, которые нужно хранить в тайнеконфиденциальным
- инъекция подсказки — введение вредной инструкции для агента ИИ
- отравление памяти — вредное изменение данных, которые хранит программа
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по тексту, браузеры с меньшими разрешениями оказались безопаснее?
- Какие две основные угрозы назвали авторы статьи?
- Какой пример риска показали учёные в доказательном эксперименте?
Похожие статьи
Выборы в Бангладеш и ложный контент с помощью ИИ
12 февраля в Бангладеш прошли напряжённые выборы после студенческого восстания 2024 года. В кампании широко использовали материалы, созданные с помощью ИИ: поддельные фото, видео и ложные цитаты, которые вводили людей в заблуждение.
После ChatGPT: как люди представляют искусственный интеллект
Появление больших языковых моделей после выхода ChatGPT в ноябре 2022 года изменило общественные разговоры об ИИ. Генеративный ИИ дал смешанные результаты, и эксперты призывают менять язык обсуждения в пользу безопасности и прав людей.
