Исследователи говорят о стиле программирования «vibe coding», который приводит к массовой публикации небезопасного кода. Команда просканировала более 43,000 уведомлений об уязвимостях и нашла много случаев, где генеративные модели ИИ помогали создавать небезопасный код.
Радар Vibe Security Radar ищет подписи инструментов в метаданных, например теги соавторов и адреса ботов, и помечает такие случаи. Если метаданные удалили, радар не может их найти.
Учёные советуют тщательно проверять код от ИИ перед выпуском в продакшен. Особенно важно тестировать обработку ввода и аутентификацию, давать ИИ более подробные подсказки и использовать инструменты для проверки кода.
Сложные слова
- уязвимость — ошибка или слабое место в программеуязвимостях
- метаданные — информация о файле или записи
- аутентификация — проверка личности или прав доступааутентификацию
- публикация — действие по размещению информации публичнопубликации
- подсказка — короткое описание или инструкция для ИИподсказки
- генеративный — способ создания нового содержимого моделью ИИгенеративные
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие шаги можно сделать, чтобы проверить код от ИИ перед выпуском?
- Почему важно тестировать обработку ввода и аутентификацию?
- Какие метаданные в тексте названы как примеры для поиска радара?
Похожие статьи
Электроэнергия и интернет ограничивают ИИ в Субсахарской Африке
Ненадёжное электроснабжение и дорогой, медленный интернет мешают внедрению искусственного интеллекта в Субсахарской Африке. Миллионы людей остаются без света и связи, школы не подключены, а решения требуют инвестиций и политической воли.
Журналисты просят помочь в борьбе с AI‑фейками
На Форуме журналистов «Пояс и путь» в Ганьчжоу представители СМИ из стран с низким и средним доходом призвали китайскую журналистскую организацию помочь в борьбе с фейками, созданными искусственным интеллектом, и требовать маркировки такого контента.
Кризис вокруг Кубка мира по крикету T20 2026
Кризис начался, когда Бангладеш отказался играть матчи в Индии из-за опасений за безопасность и политической напряжённости после требований индийской стороны освободить одного игрока. Вмешались оценки риска ICC и политические конфликты.