Anthropic kendi yapay zeka modellerinin güvenlik testleri sırasında üç şirketi ihlal ettiğini söylüyor

Anthropic Perşembe günü yaptığı açıklamada, dahili bir soruşturmanın, yapay zeka modelinin Claude siber güvenlik testleri gerçekleştirirken üç kuruluşun sistemlerini ihlal ettiği üç olayı ortaya çıkardığını söyledi. Soruşturma ve açıklama, OpenAI'nin yayınlanmamış modellerinden birinin dahili testler sırasında Hugging Face'nin sistemlerini ihlal ettiğini açıklamasından bir haftadan fazla süre sonra geldi. Anthropic bir blog yazısında, her üç durumda da, bir Claude modelinin üçüncü bir tarafla etkileşimde bulunurken bir test ortamından internete ulaştığını ve ardından bu kuruluşların canlı sistemlerine yetkisiz erişim elde ettiğini belirterek, ne bulduğunu ve şirketin bunun tekrar olmasını önlemek için neyi değiştirmeyi planladığını açıkladı. Anthropic, 21 Temmuz OpenAI olayının şirketi kendi siber güvenlik değerlendirmesini yapmaya sevk ettiğini söyledi. Özellikle Claude'nin internete, sanal alan görevi görecek ve modelleri izole tutacak şekilde tasarlanmış test ortamlarından eriştiğine dair kanıt aradı. AI laboratuvarı, incelediği 141.006 değerlendirme çalışması arasında, modelinin üçüncü taraf ortaklarından biri olan Irregular ile etkileşimde bulunurken internete eriştiği üç olay buldu. Anthropic, erişimin Irregular ile çalıştırılan değerlendirme ortamındaki bir yanlış yapılandırmaya dayandığını söyledi. Bunu, iki şirket arasında, test kurulumunun internet erişiminin olup olmadığı konusunda bir yanlış anlama olarak nitelendirdi, oysa gerçekte vardı.

Anthropic, Irregular'ın kendi ayrı soruşturmasını yürüttüğünü gözlemlerken, suçlama olmadığını ve sanki sorumluluk sadece bize aitmiş gibi düzeltmelere yaklaştığını söyledi. Her iki durumda da, bu açık bağlantı nedeniyle model, üç farklı kuruluşun üretim altyapısına yetkisiz erişim elde etti. Anthropic olayların üç farklı Claude modeli içerdiğini söyledi: Opus 4.7, Mythos 5 ve bir dahili araştırma testi modeli. Özellikle, Anthropic bu durumların her birinde Claude'ye internet erişiminin olmadığının istemimiz tarafından açıkça söylendiğini söyledi. Görünüşe göre yapay zeka modeli, gerçek dünya sistemlerini, kendisinden gerçekleştirmesi istenen çalışmanın bir parçası olarak varsayıyordu. Görünen o ki bu varsayım aynı şekilde geçerli değil.