Otonom yapay zeka ajanları, internet ve kurumsal ağlarda hızla yaygınlaşmakta ve bu durum güvenlik açıklarına neden olmaktadır. CertiK’in CEO’su Ronghui Gu, bu alanda ortaya çıkan güvenlik borcunun kontrolsüz bir şekilde büyüdüğünü dile getiriyor ve bu durumun büyük bir krize dönüşebileceğini ifade ediyor.
Güvenlik Riskleri Neler?
Özellikle son yıllarda şirketler, yapay zeka ajanlarını verimlilik aracı olarak sunarken, güvenlik konusundaki riskler göz ardı ediliyor. Bu ajanların, izole edilmeden etkinleştirilmesi ciddi güvenlik sorunlarının başında geliyor. Gu, CoinDesk’e yaptığı açıklamada, kullanıcıların bu ajanlara kişisel verilerini açtığını ve bunun manipülasyon ile dolandırıcılığa zemin hazırladığını belirtti.
Kullanıcılar bir kez izin verdiğinde, ajan yerel dosyaları okuyabilir, dış uygulamaları çağırabilir ve finansal sistemlerle etkileşim kurabilir. Eğer bu sistemler izole edilmezse, potansiyel saldırılar karşısında tamamen savunmasız hale geliyorlar.
Güven Modelindeki Yanılsamalar
Gu’ya göre yapay zeka ajanlarının en büyük sorunu yanlış güven modellerine dayanması. Çoğu açık kaynaklı uygulama, dış tehditlere karşı korunmalı olduğu varsayılarak tasarlanıyor. Ancak, uygulamalara özel izinler verildiğinde bu ajanlar, veri hırsızlığına ve kimlik avına fırsat tanıyabiliyor.
Bilinen Güvenlik Zaafları
CertiK’in gerçekleştirdiği analiz, bu pazardaki yüzlerce güvenlik açığını ortaya koyuyor. Özellikle yamanmamış yazılım açıkları ve kontrolsüz modüller nedeniyle kimlik bilgisi sızıntıları sıklıkla yaşanıyor. “Prompt injection” gibi saldırı yöntemleri ile zararlı talimatlar, yapay zeka ajanlarına sızdırılabilir ve operasyonları değiştirebilir.
Saldırılar Neden Hızla Artıyor?
Gu, yapay zeka ajanlarına yönelik saldırıların hızlı ve ani gerçekleştiğini söylüyor. CertiK’in bulgularına göre kısa sürede gerçekleşen bu saldırılar, insanlar müdahale edemeden önce, otonom sistemler üzerinde makine tabanlı finansal sızıntılar gerçekleştiriyor. Geleneksel antivirüs programları bu tür saldırıları tespit etmekte zorlanıyor.
Zararlı eklentiler veya görünmeyen kötü amaçlı yükleyiciler, doğal dil kullanarak ajanın işlevini değiştirebilir ve mevcut antivirüs yazılımları bu tür tehditlere karşı yetersiz kalabilir.
Ronghui Gu, son olarak yazılım sektörünün, güvene dayalı modelden çıkarak “Zero Trust” mimarisine geçmesi gerektiğini ifade ediyor. Her komutun ve eklentinin sürekli doğrulandığı bu modelin benimsenmesi, güvenliği artırabilir.
