Исследователи обнаружили новую уязвимость, которая может позволить злоумышленникам взять под контроль самоуправляемые автомобили. Уязвимость получила название VillainNet; её выявили специалисты по кибербезопасности Georgia Tech.
Проблема касается AI «суперсетей», которые многие системы автономного вождения используют для выбора подходящих программных модулей в разных дорожных ситуациях. Суперсети меняют небольшие подсети для выполнения задач — например при движении в дождь или в условиях плотного трафика. Команда обнаружила, что в одной из таких подсетей можно скрыть «заднюю дверь», которая остаётся неактивной до выбора очень конкретной подсети.
В эксперименте атака почти всегда срабатывала после активации: исследователи приводят 99% показатель успеха для активированных атак. Они также отмечают, что обнаружение такой «двери» потребовало бы значительно больше ресурсов и времени, и предложили добавить дополнительные меры безопасности для адаптивных AI-систем. Проект был представлен на ACM Conference on Computer and Communications Security (CCS) в October 2025.
Сложные слова
- уязвимость — слабое место в программе или системе
- злоумышленник — человек, который наносит вред системезлоумышленникам
- самоуправляемый — машина, которая едет без водителясамоуправляемые
- суперсеть — искусственная сеть, которая меняет подсетисуперсетей, Суперсети
- подсеть — часть большой сети для конкретной задачиподсети
- кибербезопасность — защита компьютерных систем и данныхкибербезопасности
- дверь — скрытый способ доступа в программу или системузаднюю дверь, двери
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие дополнительные меры безопасности, по‑вашему, следует добавить в адаптивные AI‑системы и почему?
- Чем опасна скрытая «задняя дверь» в подсети автомобиля для пассажиров и других людей на дороге?
- Если бы у вас был выбор, стали бы вы пользоваться самоуправляемым автомобилем сейчас? Почему да или нет?
Похожие статьи
После ChatGPT: как люди представляют искусственный интеллект
Появление больших языковых моделей после выхода ChatGPT в ноябре 2022 года изменило общественные разговоры об ИИ. Генеративный ИИ дал смешанные результаты, и эксперты призывают менять язык обсуждения в пользу безопасности и прав людей.
Синтезатор из деталей вейпа
Команда программы Interactive Telecommunications Program Школы искусств Tisch при NYU переделала выброшенные картриджи от вейпов в простой электронный музыкальный прибор и опубликовала инструкции, чтобы показать, как сократить электронные отходы через повторное использование.
