Исследователи говорят о стиле программирования «vibe coding», который приводит к массовой публикации небезопасного кода. Команда просканировала более 43,000 уведомлений об уязвимостях и нашла много случаев, где генеративные модели ИИ помогали создавать небезопасный код.
Радар Vibe Security Radar ищет подписи инструментов в метаданных, например теги соавторов и адреса ботов, и помечает такие случаи. Если метаданные удалили, радар не может их найти.
Учёные советуют тщательно проверять код от ИИ перед выпуском в продакшен. Особенно важно тестировать обработку ввода и аутентификацию, давать ИИ более подробные подсказки и использовать инструменты для проверки кода.
Сложные слова
- уязвимость — ошибка или слабое место в программеуязвимостях
- метаданные — информация о файле или записи
- аутентификация — проверка личности или прав доступааутентификацию
- публикация — действие по размещению информации публичнопубликации
- подсказка — короткое описание или инструкция для ИИподсказки
- генеративный — способ создания нового содержимого моделью ИИгенеративные
Подсказка: наведите, сфокусируйтесь или нажмите на выделенные слова, чтобы увидеть краткие определения прямо во время чтения или прослушивания.
Вопросы для обсуждения
- Какие шаги можно сделать, чтобы проверить код от ИИ перед выпуском?
- Почему важно тестировать обработку ввода и аутентификацию?
- Какие метаданные в тексте названы как примеры для поиска радара?
Похожие статьи
Креативные работники Австралии требуют защиту от ИИ
Художники, журналисты и аборигенные культурные работники в Австралии запустили кампанию «Stop AI Theft», требуя защиты и компенсаций. Они жалуются, что генеративный ИИ использует их материалы без разрешения и вредит их доходам и занятости.
ИИ расширяет доступ к сексуальному и репродуктивному здоровью
В Латинской Америке исследователи и НПО используют генеративный ИИ, чтобы дать молодёжи и маргинализованным группам информацию о сексуальном и репродуктивном здоровье. Одновременно эксперты предупреждают о рисках и просят улучшить данные и контроль.