Esploro de la University of Washington analizis sep popularajn agentecajn retumilojn kaj trovis, ke kvar el ili permesas manieron por atakantoj transiri la politikon pri sama origino. Enkondukita en 1995, tiu politiko estas grava por malhelpi, ke unu retejo aliru la datumojn de alia retejo en la sama retumilo.
La teamo efektivigis provaĵkonceptan ciberatakon sur ChatGPT Atlas. En tiu testo, retejo enmetis alian retejon kaj sukcesis ŝteli informojn, ekzemple anonceton en retpoŝta retejo kiu prenis sentemajn datumojn el uzantaj retpoŝtoj. Similaj kondiĉoj estis trovitaj en Chrome with Gemini, Claude for Chrome kaj Perplexity Comet. Ĝenerale, retumiloj kun malpli da permesoj al agentoj estis pli rezistemaj.
La artikolo klarigas du teknikajn riskojn. Prompt injection okazas kiam malica paĝo kaŝas instrukciojn por trompi agenton por malkaŝi aŭ movi datumojn. Memory poisoning rilatas al tio, ke agentoj miksas kaj kunpremas memoron kaj tial povas kunmeti datumojn el malsamaj origin'oj. La esploristoj dividis siajn rezultojn kun diversaj kompanioj kaj prezentis la studon ĉe la Agents in the Wild Workshop en Rio de Janeiro.
Malfacilaj vortoj
- permesi — doni rajton aŭ eblon fari ionpermesas
- retumilo — programo por malfermi paĝojn en interretoretumilojn, retumiloj
- politiko — regularo aŭ regulo por agoj en sistemopolitikon
- malhelpi — fari ke io ne okazu
- agento — programo aŭ roboto kiu plenumas taskojnagentoj
- datumo — peco de informo pri faktoj aŭ eventojdatumojn
- memoro — loko kie programo konservas informojnmemoron
- kunmeti — kunigi diversajn informojn en unu
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Ĉu vi uzas retumilajn agentojn aŭ etendojn en via retumilo? Kial aŭ kial ne?
- Ĉu vi pensas, ke limigi permesojn al agentoj estas bona rimedo por protekti datumojn? Klarigu mallonge.
- Kion kompanioj devus fari post kiam esploristoj dividis siajn rezultojn kun ili?
Rilataj artikoloj
AI kaj civitanoj trovas Anopheles stephensi en Madagaskaro
Sciencistoj uzis artefaritan inteligenton kaj telefonajn fotojn por identigi tion, kion ili kredas esti la unua Anopheles stephensi en Madagaskaro. La foto venis per la aplikaĵo GLOBE Observer kaj estis publikigita en Insects.
AI uzata en mamogramoj montras riskon de kardiovaskula malsano
Retrospektiva studo trovis, ke artefarita inteligenteco analizanta mamogramojn povas identigi virinojn kun pli alta risko de kardiovaskula malsano per mezuro de mama arteria kalcifikado (BAC). Rezultoj estas publikigitaj kaj financiitaj de la NIH.
