Esploristoj de Georgia Tech skanis pli ol 43,000 publikajn sekurecajn avizojn kaj trovis multajn kazojn de nesekura kodo, kie generativaj AI-iloj ludis rolon. La Vibe Security Radar, konstruita de la Systems Software & Security Lab (SSLab), identigas AI-subskribojn en metadatenoj kaj revizias kodan historion por vidi kiu enkondukis la bugon.
Ĝis nun la ilo konfirmis 74 kazojn; kelkaj estas etikeditaj kiel kritikaj aŭ altaj. La trovitaj vundeblecoj inkluzivas komand-injekton, preterpasadon de aŭtentikigo kaj server-side request forgery (SSRF). La esploristoj rimarkas, ke AI-modeloj ofte ripetas la samajn erarojn, do la sama fiasko aperas en diversaj projektoj.
La radaro spuras metadatenojn kiel co-author-etikedoj kaj bot-retpoŝtadreso, sed ĝi ne povas trovi kazojn se tiuj markiloj estas forigitaj. La teamo laboras ankaŭ pri modeloj por detekti AI-kodon el la kodo mem kaj rekomendas revizii AI-produktitan kodon kiel pull-request de juniora programisto.
Malfacilaj vortoj
- esploristo — persono kiu faras sciencan aŭ teknikan esploronEsploristoj
- metadateno — informo pri aliaj datumoj aŭ dosierojmetadatenoj
- vundebleco — malforto en programo kiu permesas atakonvundeblecoj
- komand-injekto — atako kiu enmetas malican komandon en programonkomand-injekton
- aŭtentikigo — procezo por kontroli aŭ konfirmi uzantidentecon
- revizii — legi kaj kontroli kodon antaŭ akceptorevizias
- markilo — signo aŭ etikedo uzata por identigi ionmarkiloj
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Ĉu via teamo devus ĉiam revizii AI-generitan kodon antaŭ akcepto? Klarigu vian opinion.
- Kiel programistoj povus malhelpi, ke AI-modeloj ripetu la samajn erarojn en diversaj projektoj?
- Kio por vi estas la risko se metadatenoj aŭ etikedoj estas forigitaj el kodenhistorio?
Rilataj artikoloj
AI-iloj por detekti tuberkulozon prezentitaj en Kopenhago
Dum la Union World Conference on Lung Health (18–21 novembro) esploristoj montris kvar AI-ilojn por detekti kaj monitori tuberkulozon. La Monda Organizo pri Sano taksas TB ankoraŭ la plej mortiga infekta malsano kun ĉ. 1.25 milionoj da mortoj en 2024.