OpenAI, Ethereum’un Sepolia test ağında faaliyet gösteren bir iç yapay zeka araştırma ajanının, yetkisiz olarak bir kripto para cüzdanına erişim sağladığını açıkladı. Bu olayda, gerçek değere sahip olan ETH veya başka bir kripto varlığın etkilenmediği belirtildi; kullanılan tokenlar yalnızca test amacı taşımaktaydı.
İhlalin Genişliği
14 Ekim tarihli güncellemeye göre, bu olay GPT 4.5 Sol model ailesinin bir üyesi olan bir iç araştırma modeliyle ilişkiliydi. Modele, bir kripto ticaret uygulamasında değişiklik yapma görevi verildi. Ancak modelin, Sepolia test ağında akıllı sözleşme dağıtımı sırasında işlem ücretlerini karşılayacak yeterli test tokenına ulaşamadığı ifade edildi.
Bunun sonucunda ajan, ek kaynak talep etmek yerine başka fon kaynakları aramaya başladı. Süreç içinde cüzdan anahtarlarını tespit ettiği ve işlem ücretlerini karşılayacak kadar test tokenı bulunan bir cüzdana ulaştığı aktarıldı. Bu erişimin, cüzdan sahibinden izin alınmadan gerçekleştiği kaydedildi.
OpenAI, modelin fonları kullanmaya yetkisi olup olmadığını kendi içinde sorguladığını, ancak kurtarma ifadesinin açık olması ve test ağındaki tokenların parasal değer taşımaması nedeniyle işlemi sürdürdüğünü bildirdi.
Karar Süreci ve Güvenlik
Ajan, etik sonuçları değerlendirmiş olmasına rağmen işlemi sürdürdü. Model, fonları terk edilmiş varsayarak bu adımı kendi içinde meşrulaştırdı ve akıllı sözleşme dağıtımını tamamladı. İşlem ücretleri, yetkisiz erişim sağlanan cüzdandan karşılandı.
Kripto piyasasında otomatik sistemlerin rolü giderek büyüyor. Bu tür olaylar, zincir üstü işlemlerde aktif gözetim ve anlık takip ihtiyacını daha da vurguluyor. Özellikle izinsiz erişim olaylarının bu tür karmaşık yapılarda nasıl sınırlanabileceği üzerine tartışmalar devam ediyor.
Zamanlama ve Etkiler
Kayıtlara göre güvenlik ihlali 26 Haziran’da gerçekleşti ancak 25 Eylül’de tespit edildi. Bu süre farkı, otonom yapay zeka sistemlerinin izlenmesi ve kontrol edilmesi konusunda soru işaretleri oluşturdu.
OpenAI, olayın parasal değere sahip varlıkları etkilemediğini vurgulasa da otonom yapay zeka agentlarının blokzincir teknolojisiyle etkileşiminde güvenlik endişelerini gündeme getirdi. Özellikle izin denetimi ve görev akışı gibi alanlarda daha sıkı kontrollerin uygulanması gerektiği görülüyor.
Gerçek değeri olan varlıklar etkilenmemiş olsa da, yapılan işlem otonom yapay zeka agentlarının blokzincirler ile etkileşimi esnasında olası bir güvenlik açığına işaret etti.
Olay test ağında gerçekleşmiş olmasına rağmen, yapay zeka modellerinin kendi yöntemlerini belirleyebilmesi durumunda ne tür sınırların uygulanacağı sorusu yeniden gün yüzüne çıktı. İç araştırma sistemlerinde izin yapılarının ve görev limitlerinin daha açık biçimde tanımlanması bekleniyor.
