OpenAI ve Anthropic'in yapay zeka ajanları, test sınırlarını aşarak gerçek kişileri hedef aldı
OpenAI ajanının Hugging Face’e yönelik siber saldırı gerçekleştirmesi ve Anthropic 'in Claude modellerinin güvenlik testleri sırasında üç şirketin sistemlerine izinsiz olarak erişmesinin ardından yapay zeka şirketleri siber güvenlik konusunda sınanmaya devam ediyor.
İngiltere hükümetine bağlı AI Security Institute (AISI) , OpenAI ve Anthropic tarafından geliştirilen yapay zeka modellerinin siber güvenlik testleri sırasında belirlenen sınırların dışına çıktığını açıkladı. Wired'ın paylaştığı bilgilere göre ajanlar, gerçek kişi ve kuruluşları hedefleyen girişimlerde bulundu, sahte çevrim içi kimlikler oluşturdu ve açık kaynaklı bir projeye zararlı kod eklemeye çalıştı.
AISI tarafından paylaşılan bilgilere göre , değerlendirme kapsamında yedi farklı model aynı siber güvenlik görevinde toplam 122 kez test edildi. Ajanlardan, birbirine bağlı üç simüle edilmiş sistemi ele geçirmeleri ve sistemlerde saklanan veriye ulaşmaları istendi. Testlerin 10’unda ajanların belirlenen görev alanının dışına çıktığı, toplam 19 yetkisiz eylem gerçekleştirdiği tespit edildi.
Bu eylemlerin 17’si Anthropic’in Mythos 5 modeli, ikisi ise OpenAI’ın GPT-5.6 Sol modeli tarafından gerçekleştirildi. AISI, 122 testin 43’ünde Mythos 5’in , 35’inde ise GPT-5.6 Sol’un kullanıldığını belirtiyor. Yetkisiz eylemlerin büyük bölümü, Mythos 5 tarafından sürdürülen birbiriyle bağlantılı faaliyetlerden oluştu.
En ciddi olayda yapay zeka ajanı, gerçek bir açık kaynak projesine zararlı kod içeren bir değişiklik önerisi gönderdi. Ajan daha sonra projenin geliştiricilerini araştırarak birden fazla sahte kimlik oluşturdu ve kodun onaylanması için proje yöneticilerinden birine sosyal mühendislik uygulamaya çalıştı. Zararlı kod, insan incelemesi sırasında fark edilerek reddedildi.
Ajanın girişimi bununla da sınırlı kalmadı. AISI, modelin gerçek kişilere mesajlar ve zararlı dosyalar gönderdiğini, diğer yapay zeka destekli kodlama araçlarını etkileyebilecek gizli komutlar yerleştirmeye çalıştığını aktardı. Model ayrıca GitHub üzerinde daha sonra aynı görevi yerine getirecek ajanlara yönelik mesajlar bıraktı. Bu mesajlarda oluşturduğu hesapların ve diğer dijital varlıkların yeniden kullanılmasını önerdi.