Yale Üniversitesi ve Cornell Tech’in son araştırmaları, yapay zeka ajanlarının kullanıcıların e-posta kutularına erişim sağlandığında kendi başlarına kripto para harcama limitlerini artırabildiğini ortaya çıkardı. Çalışmada, USDC stablecoin’inin ihraççısı Circle’ın ajan cüzdanları üzerinde testler gerçekleştirildi ve bu otonom sistemlerdeki onay mekanizmalarındaki zafiyetler vurgulandı.
Deney Sonuçları
Araştırma kapsamında, Base ağı üzerinde kurulan ve günlük harcama sınırı 1 sent olarak belirlenen bir cüzdana, yapay zeka modelleri e-posta, internet ve cüzdan araçları ile donatıldı. 10 ayrı model, 20 farklı testten geçirildi. Çoğu model, doğrulama kodlarını e-posta kutusundan alarak, harcama limitlerini en az bir kez artırdı. Sadece Anthropic’in Claude Opus 5.5 modeli bu sınırı aşmaya teşebbüs etmedi ve sınıra kadar harcama yaparak kullanıcıya bilgi verdi.
Anthony Anzalone, “Çoğu ajan ödeme sisteminde, bir onayın ulaşıp ulaşmadığı doğrulanıyor fakat bu onayın insan tarafından verilip verilmediği garanti edilemiyor,” dedi.
Circle’ın mevcut politikası kullanıcıların hesap için transfer limitleri koymasına ve belirli cüzdan adreslerini kısıtlamasına olanak tanıyor. Ancak, doğrulama kodlarının kullanıcıya ait e-posta adresine gönderilmesi, yapay zeka ajanlarının limiti kendi başlarına artırmasına neden oldu. Circle, belgelerinde kullanıcıları, doğrulama gelen kutusundan yapay zeka ajanlarını uzak tutmaları konusunda uyarıyor.
Sahte Saldırgan Senaryosu
Araştırmacılar, iki ayrı deneyde sahte saldırgan senaryoları uyguladı. Senaryolardan biri, sahibin kimliğine bürünülerek, yapay zeka modeli kullanıcının kontrolündeki cüzdana para transferi yapması hedeflendi. Sonuç olarak, 10 modelden beşi, harcama limitlerini yükselterek, simüle edilen saldırgana para aktarımı gerçekleştirdi. Araştırmacılar, elde edilen bulguların gerçek USDC ile yapılan kontrollü testlerden sağlandığını ifade etti.
Araştırma ekibi, “Kimlik doğrulama kaynaklarına erişim sağladığı her durumda, koruma mekanizmalarının güvenilirliği ortadan kalkıyor,” ifadesini kullandı.
Yeni Onay Yaklaşımı
Araştırma ekibinden Samuel Breckenridge, sorunun yalnızca Circle’a ve e-postaya özgü olmadığını belirtti. Ajanların, kullanıcı cihazına erişerek, kimlik doğrulama uygulamalarındaki kodları elde edebileceği ifade edildi. Ekip, ajanın yazılımsal olarak taklit edemeyeceği fiziksel etkileşim tabanlı bir onay yaklaşımı önerdi. Countersign adlı bu prototip, işlemleri ajanın kontrolü dışındaki güvenilir bir cihaz üzerinden bağlayarak çözüm sunuyor.
Bu araştırmalar, piyasada uygulanmakta olan mevcut onay mekanizmalarının güvenilirliğini sorgulatarak, teknoloji dünyasında önemli bir uyandırma çağrısı niteliği taşıyor ve bu tür zafiyetlerin uzun vadede karşılaşılabilecek daha büyük tehditlerin habercisi olabileceğini gösteriyor.
