Команда из лаборатории Systems Software & Security Lab (SSLab) при Georgia Tech разработала Vibe Security Radar и обнаружила проблему, которую назвала «vibe coding». Радар сканирует публичные базы данных уязвимостей, определяет ошибку для каждой записи и анализирует историю кода, чтобы понять, кто ввёл баг.
Если в истории находятся подписи инструментов ИИ — теги соавторов или адреса электронной почты ботов — система помечает случай как связанный с ИИ. При этом радар не может обнаружить случаи, когда эти метаданные были удалены.
Инструмент подтвердил 74 случая уязвимостей; 14 из них классифицированы как критические, 25 — как высокие. Найденные проблемы включают инъекции команд, обход аутентификации и подделку серверных запросов (server-side request forgery). Исследователи отмечают, что модели ИИ часто повторяют одни и те же ошибки в разных проектах.
Команда работает над поведенческим обнаружением: код ИИ оставляет закономерности в названиях переменных, структуре функций и обработке ошибок. Также совершенствуют верификационный конвейер и расширяют источники данных. SSLab рекомендует тщательно проверять результаты ИИ перед выкатом в продакшен.
Сложные слова
- уязвимость — слабое место в программе или системеуязвимостей
- метаданные — информация о файле или записи
- инъекция — ввод вредного кода в программуинъекции
- аутентификация — проверка личности или доступа пользователяаутентификации
- подпись — отметка автора или источника в файлеподписи
- закономерность — повторяющийся шаблон или правильная связьзакономерности
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по тексту, модели ИИ часто повторяют одни и те же ошибки в разных проектах?
- Какие проверки можно добавить перед выкатом в продакшен, если код частично сгенерирован ИИ?
- Какие признаки в коде, упомянутые в тексте, помогают обнаружить код, созданный ИИ?
Похожие статьи
Как клетки и молекулы формируют мозговые сети
Учёные объединили данные сканов, генетики и молекулярной визуализации, чтобы связать микроскопические признаки мозга с крупномасштабными сетями, наблюдаемыми при fMRI. Работа опубликована в Nature Communications и связана с депрессией, шизофренией и болезнью Альцгеймера.
Топ‑10 научных новостей года от Futurity
В конце 2025 года Futurity опубликовал подборку десяти заметных новостей о научных исследованиях. Материалы охватывают ветеринарную медицину, энергию, археологию, нейронауки и экологическое здоровье; читателям предложили вернуться в 2026 году.
