Anthropic yapay zeka modellerinin üç kuruluşu da tek başına hacklediğini söylüyor

Şirket, OpenAI'nin temsilcisinin Hugging Face'yi hacklediğini açıklamasının ardından test kayıtlarını incelemeye başladı. Görünen o ki, OpenAI yapay zeka modelleri diğer kuruluşların sistemlerine kendi başlarına sızan tek şirket değil. Anthropic bir rapor yayınladı ve AI modellerinin test ortamlarından kurtulduğunu ve üç farklı kuruluşa sızdığını, görünüşe göre kendilerine bildirilene kadar ihlalin farkında olmadıklarını kabul etti. OpenAI, bir AI ajanının internete bağlanmak ve Hugging Face'yi hacklemek için istismar edilen güvenlik açıklarını test ettiği olayı ortaya çıkardıktan sonra, Anthropic kendi testlerinin geniş ölçekli bir incelemesine başladı. Şirket özellikle Claude modellerinin internete erişememesi gerekirken eriştiğine dair kanıt aradı. Modellerin internete üç durumda erişebildiği ve ardından "üç farklı kuruluşun üretim altyapısına yetkisiz erişim sağladığı" ortaya çıktı. Olaylara üç farklı Claude model karıştı: Opus 4.7, siber güvenlik odaklı Mythos 5 ve genel sürüm için planlanmayan bir prototip. Serbest kaldıklarında hepsi bayrağı ele geçirme mücadelesi veriyorlardı. Modellere, Anthropic'nin dahili ağında farklı bir makinede gizlenen gizli bir bilgi parçası olan "bayrağı" bulma görevi verildi.

Bayrağı almak için makineye girmeleri gerekiyordu. Ancak OpenAI'nin durumundan farklı olarak modeller internete erişim sağlamak için bir güvenlik açığından yararlanmadı. İnsan hatası nedeniyle test ortamlarının sınırlarından kaçmış görünüyorlardı. Anthropic bir istemde modellere internet erişimlerinin olmadığını belirtti ancak durum hiç de öyle değildi. Şirket ile değerlendirme ortağı arasındaki "yanlış anlaşılma nedeniyle" internet erişimi vardı. Dolayısıyla, modeller açık internete erişim bulduğunda ve üç kuruluşun sistemleriyle karşılaştığında, bunu uygulamanın bir parçası olarak değerlendirdiler ve içeri girdiler. Test ortamlarından kasıtlı olarak kaçmaya çalışmadılar, diye açıkladı Anthropic. Modeller, kuruluşlara sızmak için zayıf parolalardan yararlanmak ve karmaşık güvenlik açıklarından yararlanmamak gibi temel teknikleri kullandı.