La teamo de la University of Washington ekzamenis sep agentecajn retumilojn. Ili trovis, ke kvar el ili donis vojojn por atakantoj transiri la politikon pri sama origino. Tiu regulo malhelpas, ke unu retejo prenu datumojn de alia retejo en la sama retumilo.
Esploristoj faris provaĵan atakon sur ChatGPT Atlas, kie retejo enmetis alian retejon kaj prenis sentemajn datumojn el retpoŝtoj. Ili ankaŭ trovis similajn kondiĉojn en Chrome with Gemini, Claude for Chrome kaj Perplexity Comet. Retumiloj, kiuj donis al agentoj malpli da permesoj, montris pli bonan sekurecon.
La studo klarigas du riskojn: prompt injection, kiam malica paĝo kaŝas instrukciojn por trompi agenton, kaj memory poisoning, kiam memoroj de malsamaj retejoj estas miksitaj. La teamo dividis trovojn kun la kompanioj kaj prezentis la studon en Rio de Janeiro.
Malfacilaj vortoj
- retumilo — programo por foliumi retajn paĝojnretumilojn, Retumiloj
- agento — programo aŭ roboto kiu aŭtomate laborasagenton, agentoj
- politiko — regulo aŭ principo por konduto aŭ agojpolitikon
- datumo — informo aŭ fakto en cifera formodatumojn
- memoro — informoj konservitaj por posta uzomemoroj
- permeso — rajto aŭ aprobo fari iun agonpermesoj
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Ĉu vi zorgas pri sentemaj datumoj en retpoŝtoj? Kion vi faras por protekti ilin?
- Kial estas grava, ke memoroj de malsamaj retejoj ne estu miksitaj?
- Ĉu vi pensas, ke kompanioj devus ŝanĝi siajn retumilojn post tia studo? Kial?
Rilataj artikoloj
AI kaj civitanoj trovas Anopheles stephensi en Madagaskaro
Sciencistoj uzis artefaritan inteligenton kaj telefonajn fotojn por identigi tion, kion ili kredas esti la unua Anopheles stephensi en Madagaskaro. La foto venis per la aplikaĵo GLOBE Observer kaj estis publikigita en Insects.
AI uzata en mamogramoj montras riskon de kardiovaskula malsano
Retrospektiva studo trovis, ke artefarita inteligenteco analizanta mamogramojn povas identigi virinojn kun pli alta risko de kardiovaskula malsano per mezuro de mama arteria kalcifikado (BAC). Rezultoj estas publikigitaj kaj financiitaj de la NIH.
