Bir araştırma ekibi, "vibe coding" yönteminin üretken yapay zekâ araçlarının paket hâlinde güvenlik açıkları içeren kod üretmesine yardımcı olduğunu tespit etti. Ekip internet genelindeki duyuruları tarayan Vibe Security Radar aracını geliştirdi. Radar, her zafiyet için hatayı tespit ediyor ve kod geçmişini inceleyerek hatayı kimin eklediğini görüyor.
Şu ana kadar araç 74 vakayı doğruladı; bunlardan 14'ü kritik, 25'i yüksek olarak etiketlendi. Bulunan zafiyetler arasında komut enjeksiyonu, kimlik doğrulama atlatma ve sunucu tarafı istek sahteciliği (SSRF) yer alıyor. Araştırmacılar, aynı AI modellerini kullanan birçok geliştiricinin aynı hataları tekrarladığını belirtiyor.
Radar hem meta veri işaretlerini (eş-yazar etiketleri, bot e-postaları) hem de davranışsal kalıpları izliyor. Meta veriler silinirse bazı vakalar tespit edilemiyor; bu yüzden ekip kodun kendisinden AI izini bulacak modeller üzerinde çalışıyor ve doğrulama hattını genişletiyor.
Zor kelimeler
- zafiyet — Bir sistemde veya kodda güvenlik sorunu.zafiyetler
- güvenlik açığı — Bilgisayar sistemine zarar verebilecek açıklık.güvenlik açıkları
- komut enjeksiyonu — Kötü amaçlı komutların çalıştırılması saldırısı.
- kimlik doğrulama atlatma — Kullanıcı kontrolünü geçersiz kılma yöntemi.
- sunucu tarafı istek sahteciliği — Sunucunun başka bir isteği taklit etmesi saldırısı.SSRF
- meta veri — Dosya veya kaydın ek bilgi parçaları.
- iz — Bir şeyin geçmişte olduğuna dair işaret.izini
- üretken — Çok sayıda sonuç veya içerik ortaya çıkaran.
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Sizce geliştiriciler aynı AI hatalarını neden tekrar tekrar yapıyor olabilir?
- Bu tür bir radar aracı sizin çalıştığınız projede nasıl yardımcı olurdu? Kısa örnek verin.
- Meta veriler silindiğinde hataları bulmak zorlaşıyorsa, kod inceleme veya doğrulama için hangi yöntemler yararlı olur?
İlgili makaleler
Yapay zekada önyargı ve gerçek dünya sorunları
Yapay zeka hızla yayılıyor; Nisan ayında ChatGPT haftalık bir milyar aktif kullanıcıya ulaştı. Araştırmalar önyargılı sistemlerin zararlı etkilerini gösteriyor. Teksas Üniversitesi araştırması, üç ana faktörün önyargıyı artırdığını buldu.
