Исследователи из Georgia Tech описали новую уязвимость под названием VillainNet, которая позволяет скрыть «заднюю дверь» в архитектуре адаптивных AI-систем для автономного вождения. Такие системы, или «суперсети», работают как набор инструментов: они подставляют маленькие подсети в зависимости от дорожной ситуации, чтобы выполнять конкретные задачи.
Команда под руководством David Oygenblik, PhD student at Georgia Tech, показала, что злоумышленник может внедрить скрытую функцию в одну из подсетей. Эта «задняя дверь» остаётся неактивной до тех пор, пока не будет выбран очень конкретный набор подсетей; при наступлении условия она активируется и может установить контроль над автомобилем. В качестве возможного триггера исследователи описывают такси без водителя, реагирующее на дождь и изменяющиеся дорожные условия.
В экспериментах атака почти наверняка оказывалась успешной после активации: исследователи приводят 99% показатель успеха для активированных атак. По их оценке, обнаружение такой «двери» потребовало бы в 66 раз больше вычислительной мощности и времени, а атака может скрываться среди до 10 квинтильонов возможных конфигураций. Проект предупреждает, что угрозу можно внедрить на любом этапе разработки и что она способна охватывать миллиарды сценариев.
- 99% показатель успеха при активации
- Обнаружение потребовало бы в 66 раз больше ресурсов
- Атака может скрываться среди до 10 квинтильонов конфигураций
Oygenblik назвал работу призывом к сообществу по безопасности и призвал к новым средствам защиты адаптивных AI-систем. Исследователи предложили добавить в суперсети дополнительные меры безопасности. Проект был представлен на ACM Conference on Computer and Communications Security (CCS) в October 2025. Источник: Georgia Tech.
Сложные слова
- уязвимость — слабое место в системе, позволяющее атаку
- адаптивный — меняющийся в ответ на условия или средуадаптивных
- подсеть — малый компонент сети, выполняющий отдельные задачиподсети, подсетей
- суперсеть — система из многих подсетей для разных задач«суперсети», суперсети
- внедрить — ввести скрытую функцию в систему или код
- активировать — привести в действие, сделать работающимактивируется
- конфигурация — набор параметров или настройки системыконфигураций
- обнаружение — нахождение проблемы, ошибки или вредоносного кода
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие дополнительные меры безопасности, по вашему мнению, было бы полезно добавить в суперсети и почему?
- Какие последствия для пользователей беспилотных такси могут быть, если подобная «задняя дверь» останется невыявленной?
- На каких этапах разработки, по тексту, можно внедрить такую угрозу и как это влияет на возможности её обнаружения?
Похожие статьи
Исследование: ИИ чаще усложняет письмо студентов
Учёные изучили работу студентов с генеративным ИИ и обнаружили, что он нередко повышает умственную нагрузку при письме. Авторы отмечают: ИИ должен дополнять человека, а студенты должны учиться формулировать запросы и критически проверять выводы.
