En la lasta jaro firmaoj lanĉis retumilojn kun agentoj, kiuj povas malfermi langetojn, esplori opciojn kaj plenumi taskojn por uzantoj. Nova studo de la University of Washington avertas, ke la plej potencaj el tiuj agentecaj retumiloj povas krei gravajn cibertagan riskojn, ĉar ili povas rompi fundamentan retumilan sekurecan regulon: la politikon pri sama origino.
La UW-teamo ekzamenis sep popularajn agentecajn retumilojn kaj trovis, ke kvar el ili donis manierojn por atakantoj transiri tiun politikon. Kiel provaĵo, la esploristoj realigis ciberatakon sur ChatGPT Atlas: retejo enmetis alian retejon kaj prenis informojn, ekzemple anonceton en retpoŝta servo kiu eltiris sentemajn datumojn el uzantaj retpoŝtoj. Ili ankaŭ identigis kondiĉojn por similaj atakoj en Chrome with Gemini, Claude for Chrome kaj Perplexity Comet.
La studo identigas du ĉefajn teknikajn riskojn. Unu estas prompt injection, kiam malica enhavo kaŝas instrukciojn por trompi agenton por malkaŝi aŭ sendi datumojn al la atakanto; la alia estas memory poisoning, kiam agentoj konservas kaj kunpremas lernitajn informojn kaj povas miksadi datumojn el malsamaj origin'oj. Esploristoj notis, ke retumiloj kiuj limigas agentan permeson tendencas esti pli sekuraj.
La teamo dividis siajn trovojn kun la kompanioj malantaŭ la retumiloj: Anthropic kaj Firefox ne respondis, dum Perplexity kaj OpenAI rifuzis la raporton. Ili havis interŝanĝojn kun Google, Microsoft kaj Brave. La studo estis prezentita ĉe Agents in the Wild Workshop en Rio de Janeiro kaj estis partatempe financita per donacoj de Microsoft. Fonto: University of Washington.
Malfacilaj vortoj
- agento — programo aŭ sistemo kiu plenumas taskojn por uzantoagentoj
- retumilo — programo por viziti retejojn kaj montri retejan enhavonretumiloj
- ciberatako — atako kontraŭ komputilsistemoj aŭ retoj per malica intencociberatakon
- origino — lokon aŭ retejon de kie venas peto aŭ enhavo
- interŝanĝo — ago aŭ evento en kiu informoj estas interŝanĝatajinterŝanĝojn
- financi — provizi monon por subteni projekton aŭ esploronfinancita
Konsilo: ŝovu la musmontrilon, fokusu aŭ tuŝu la reliefigitajn vortojn en la artikolo por vidi rapidajn difinojn dum legado aŭ aŭskultado.
Diskutaj demandoj
- Kiel, laŭ vi, kompanioj povus redukti la riskon ke agentecaj retumiloj miksu datumojn el malsamaj origin'oj?
- Ĉu uzantoj devus limigi la permesojn de agentoj en retumiloj? Donu kialojn kaj eblajn konsekvencojn.
Rilataj artikoloj
Kiel mikroskopaj trajtoj konstruas grandajn cerbajn retojn
Studo en Nature Communications montras kiel ĉelaj kaj molekulaj trajtoj subtenas grand-skalaajn cerbajn retojn. La teamo kombinis fMRI-skanojn, genetikajn datumojn kaj molekulan bildigon por konekti mikro- kaj makro-nivelon.
Artefarita inteligenteco ĉe usonaj landlimoj
AI estas ĉiam pli uzata en usona landlima kontrolado. Homaj rajtoj-organizaĵoj diras, ke tiuj sistemoj ofte reproduktas rasajn diskriminaciojn kaj petas ŝanĝojn, inkluzive de travidebleco, elekto ne partopreni kaj sendependa superrigardo.