Esploristoj de Georgia Tech skanis pli ol 43,000 publikajn sekurecajn avizojn kaj trovis multajn kazojn de nesekura kodo, kie generativaj AI-iloj ludis rolon. La Vibe Security Radar, konstruita de la Systems Software & Security Lab (SSLab), identigas AI-subskribojn en metadatenoj kaj revizias kodan historion por vidi kiu enkondukis la bugon.
Ĝis nun la ilo konfirmis 74 kazojn; kelkaj estas etikeditaj kiel kritikaj aŭ altaj. La trovitaj vundeblecoj inkluzivas komand-injekton, preterpasadon de aŭtentikigo kaj server-side request forgery (SSRF). La esploristoj rimarkas, ke AI-modeloj ofte ripetas la samajn erarojn, do la sama fiasko aperas en diversaj projektoj.
La radaro spuras metadatenojn kiel co-author-etikedoj kaj bot-retpoŝtadreso, sed ĝi ne povas trovi kazojn se tiuj markiloj estas forigitaj. La teamo laboras ankaŭ pri modeloj por detekti AI-kodon el la kodo mem kaj rekomendas revizii AI-produktitan kodon kiel pull-request de juniora programisto.
Malfacilaj vortoj
- esploristo — persono kiu faras sciencan aŭ teknikan esploronEsploristoj
- metadateno — informo pri aliaj datumoj aŭ dosierojmetadatenoj
- vundebleco — malforto en programo kiu permesas atakonvundeblecoj
- komand-injekto — atako kiu enmetas malican komandon en programonkomand-injekton
- aŭtentikigo — procezo por kontroli aŭ konfirmi uzantidentecon
- revizii — legi kaj kontroli kodon antaŭ akceptorevizias
- markilo — signo aŭ etikedo uzata por identigi ionmarkiloj
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Ĉu via teamo devus ĉiam revizii AI-generitan kodon antaŭ akcepto? Klarigu vian opinion.
- Kiel programistoj povus malhelpi, ke AI-modeloj ripetu la samajn erarojn en diversaj projektoj?
- Kio por vi estas la risko se metadatenoj aŭ etikedoj estas forigitaj el kodenhistorio?
Rilataj artikoloj
Kiel AI malavantaĝigas ne-anglajn lingvojn
Studoj en 2025 montris, ke multaj popularaj grandaj lingvaj modeloj (LLMoj) malbone funkcias en lingvoj krom la angla. Tio kreas praktikajn kaj kulturajn problemojn; spertuloj rekomendas kunlaboron kun lokaj komunumoj kaj validigon de datumoj.
Datumcentroj kaj kriptominado povus plialtigi elektroprezojn en Usono
Nova esploro avertas, ke kreskanta elektra uzo de datumcentroj kaj kriptominado povas plialtigi elektrokostojn kaj CO2-emisiojn en Usono ĝis 2030. La studo uzis modelon por taksi efikojn sur prezo, provizo kaj emisioj.