Исследователи обнаружили новую уязвимость, которая может позволить злоумышленникам взять под контроль самоуправляемые автомобили. Уязвимость получила название VillainNet; её выявили специалисты по кибербезопасности Georgia Tech.
Проблема касается AI «суперсетей», которые многие системы автономного вождения используют для выбора подходящих программных модулей в разных дорожных ситуациях. Суперсети меняют небольшие подсети для выполнения задач — например при движении в дождь или в условиях плотного трафика. Команда обнаружила, что в одной из таких подсетей можно скрыть «заднюю дверь», которая остаётся неактивной до выбора очень конкретной подсети.
В эксперименте атака почти всегда срабатывала после активации: исследователи приводят 99% показатель успеха для активированных атак. Они также отмечают, что обнаружение такой «двери» потребовало бы значительно больше ресурсов и времени, и предложили добавить дополнительные меры безопасности для адаптивных AI-систем. Проект был представлен на ACM Conference on Computer and Communications Security (CCS) в October 2025.
Сложные слова
- уязвимость — слабое место в программе или системе
- злоумышленник — человек, который наносит вред системезлоумышленникам
- самоуправляемый — машина, которая едет без водителясамоуправляемые
- суперсеть — искусственная сеть, которая меняет подсетисуперсетей, Суперсети
- подсеть — часть большой сети для конкретной задачиподсети
- кибербезопасность — защита компьютерных систем и данныхкибербезопасности
- дверь — скрытый способ доступа в программу или системузаднюю дверь, двери
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие дополнительные меры безопасности, по‑вашему, следует добавить в адаптивные AI‑системы и почему?
- Чем опасна скрытая «задняя дверь» в подсети автомобиля для пассажиров и других людей на дороге?
- Если бы у вас был выбор, стали бы вы пользоваться самоуправляемым автомобилем сейчас? Почему да или нет?
Похожие статьи
Носимые устройства с ИИ при диабете 2 типа
Метаобзор учёных Университета Буффало в NPJ Digital Medicine оценивает носимые устройства с искусственным интеллектом для людей с диабетом 2 типа и преддиабетом. Описаны потенциал в прогнозировании глюкозы и серьёзные проблемы с данными и объяснимостью моделей.
Искусственный интеллект для выявления причин смерти
Проект CODA, финансируемый Фондом Гейтсов на трёхлетний срок, использует искусственный интеллект для улучшения данных о причинах смерти в странах с низким доходом, где лишь 8% случаев имеют документированную причину. Система сочетает посмертные интервью и клинические данные и даёт рекомендации с уровнем уверенности.