University of Washington'dan araştırmacılar, yapay zekâ ajanları içeren yedi popüler web tarayıcısını inceledi ve dördünde temel güvenlik kuralı olan aynı köken politikasını (same-origin policy) aşmaya müsait yollar buldu. 1995'te getirilen bu politika, tarayıcılarda farklı sitelerin birbirlerinin verilerine erişmesini engelleme amacı taşır ve modern tarayıcıların bilgi koruması için temel kabul edilir.
Araştırmacılar ChatGPT Atlas üzerinde bir kavram ispatı saldırısı gerçekleştirdi. Testte bir site başka bir siteyi gömerek ondan bilgi aldı; örneğin bir e-posta sitesindeki reklamın kullanıcının e-postalarındaki hassas verileri toplaması gösterildi. Ekip, aynı koşulları Chrome with Gemini, Claude for Chrome ve Perplexity Comet adlı tarayıcılarda da gözlemledi. Genel bulgu, ajanlara daha az izin veren tarayıcıların daha güvenli olduğuydu; eş-kıdemli yazar David Kohlbrenner "Tarayıcı ajanları halka hazır değil" dedi.
Çalışma iki ana teknik riski ayrıntılı olarak açıklıyor. Birincisi talimat enjeksiyonu: kötü amaçlı içerik, ajanı gizli bir şekilde özet veya veri gönderme gibi eylemlere zorlayabilir; makalede bu tür bir gizli talimat örneği veriliyor. İkinci risk bellek zehirlenmesi: ajanlar öğrendiklerini saklıyor ve bellek gözden geçirilip sıkıştırılırken farklı kökenlerden gelen bilgileri karıştırabiliyorlar.
Araştırmacılar bulguları tarayıcıların arkasındaki şirketlerle paylaştı. Anthropic ve Firefox yanıt vermedi, Perplexity ve OpenAI raporu reddetti; ekip Google, Microsoft ve Brave ile görüşmeler yaptığını belirtti. Çalışma Agents in the Wild Workshop'ta Rio de Janeiro'da sunuldu ve kısmen Microsoft bağışlarıyla finanse edildi.
Zor kelimeler
- aynı köken politikası — farklı sitelerin birbirine erişimini engelleyen kuralaynı köken politikasını
- kavram ispatı — güvenlik açığını gösteren küçük deneme saldırısı
- talimat enjeksiyonu — kötü içerikle ajanı istenmeyen eyleme zorlamak
- bellek zehirlenmesi — ajanın depoladığı bilgilerin karışması durumu
- ajan — otonom veya yarı-otonom yazılım aracıajanları
- gömmek — bir kaynağı başka bir içeriğin içine yerleştirmekgömerek
- bağış — bir kuruma veya projeye yapılan mali yardımbağışlarıyla
İpucu: Türkçe metni okurken veya ses kaydını dinlerken, vurgulanan kelimelerin üzerine gel, odaklan ya da dokun; anında kısa tanımlar görünür.
Tartışma soruları
- Talimat enjeksiyonu ve bellek zehirlenmesi gibi riskler göz önüne alındığında, tarayıcı ajanlarının genel kullanıma hazır olup olmadığını neden düşünürsünüz? Örneklerle açıklayın.
- Araştırmacıların bulguları şirketlerle paylaştığı belirtiliyor. Sizce tarayıcı üreticileri bu tür güvenlik raporlarına nasıl yanıt vermeli ve hangi adımları atmalı?
- Metinde "ajanlara daha az izin veren tarayıcıların daha güvenli olduğu" söyleniyor. Kullanıcılar tarayıcı seçerken hangi gizlilik veya izin ayarlarını göz önüne almalıdır?
İlgili makaleler
Yapay zekâ EHR ile DEHB riskini erken tahmin ediyor
Araştırmacılar, rutin elektronik sağlık kayıtlarını kullanarak yapay zekâ ile DEHB riskini tanıdan yıllar önce tahmin edebileceğini bildirdi. Araç çocukları işaret ederek daha erken izleme veya sevk imkânı sağlayabilir; yine de daha fazla çalışma gerekiyor.
