Команда из лаборатории Systems Software & Security Lab (SSLab) при Georgia Tech разработала Vibe Security Radar и обнаружила проблему, которую назвала «vibe coding». Радар сканирует публичные базы данных уязвимостей, определяет ошибку для каждой записи и анализирует историю кода, чтобы понять, кто ввёл баг.
Если в истории находятся подписи инструментов ИИ — теги соавторов или адреса электронной почты ботов — система помечает случай как связанный с ИИ. При этом радар не может обнаружить случаи, когда эти метаданные были удалены.
Инструмент подтвердил 74 случая уязвимостей; 14 из них классифицированы как критические, 25 — как высокие. Найденные проблемы включают инъекции команд, обход аутентификации и подделку серверных запросов (server-side request forgery). Исследователи отмечают, что модели ИИ часто повторяют одни и те же ошибки в разных проектах.
Команда работает над поведенческим обнаружением: код ИИ оставляет закономерности в названиях переменных, структуре функций и обработке ошибок. Также совершенствуют верификационный конвейер и расширяют источники данных. SSLab рекомендует тщательно проверять результаты ИИ перед выкатом в продакшен.
Сложные слова
- уязвимость — слабое место в программе или системеуязвимостей
- метаданные — информация о файле или записи
- инъекция — ввод вредного кода в программуинъекции
- аутентификация — проверка личности или доступа пользователяаутентификации
- подпись — отметка автора или источника в файлеподписи
- закономерность — повторяющийся шаблон или правильная связьзакономерности
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Почему, по тексту, модели ИИ часто повторяют одни и те же ошибки в разных проектах?
- Какие проверки можно добавить перед выкатом в продакшен, если код частично сгенерирован ИИ?
- Какие признаки в коде, упомянутые в тексте, помогают обнаружить код, созданный ИИ?
Похожие статьи
Датчики и искусственный интеллект помогают следить за людьми с БАС
Команда Университета Миссури тестирует систему с домашними датчиками и искусственным интеллектом для отслеживания изменений в здоровье людей с БАС. Данные анализируют машинным обучением, чтобы заранее заметить ухудшение и помочь клиницистам.
Надувной робот для сбора яблок в Вашингтоне
Из‑за нехватки сборщиков в штате Вашингтон учёные из Washington State University создали недорогой надувной робот‑манипулятор, который помогает снимать яблоки. Устройство безопасно для людей и сейчас дорабатывается перед коммерческим запуском.
