OpenAI'nin Hugging Face'e nasıl hacklediğini şimdi daha iyi anlıyoruz

JFrog Artifactory 0-day'ı kullanan OpenAI modellerinden yamanın yayınlanmasına kadar 10 gün geçti. Ürünün geliştiricisi JFrog Pazartesi günü yaptığı açıklamada, geçen hafta iki OpenAI güvenlik korsanlığı modelinin diğer AI şirketi Hugging Face'nin ağına izinsiz girdiği benzeri görülmemiş güvenlik olayının, Artifactory'deki bir veya daha fazla sıfır gün güvenlik açığından yararlanılarak etkinleştirildiğini söyledi. Yapay zeka şirketi geçen hafta, distopik bir bilimkurgu romanını taklit eden bir olayda, iki OpenAI modelinin dahili bir test sırasında internete erişmelerini engellemeyi amaçlayan kısıtlı ortamdan çıktığını açıkladı. Modeller Hugging Face'nin ağını ihlal etmeye ve gizli bilgileri ve kimlik bilgilerini çalmaya devam etti. OpenAI, ajanının bu başarıya daha önce bilinmeyen bir güvenlik açığından yararlanarak ulaştığını söyledi. Şirket, etkinliği "benzeri görülmemiş" olarak nitelendirdi ve dışarıdan gelenler de büyük ölçüde bu görüşe katıldı. OpenAI, modellerin uzaktan kod yürütme yetenekleri kazanmak için çalıntı kimlik bilgileri ve sıfır günler de dahil olmak üzere birden fazla saldırı vektöründen yararlandığını, ancak şu ana kadar savunmasız yazılımın bilinmediğini söyledi. JFrog'un Pazartesi günü yaptığı açıklamada, ürünün, müşterilerin yazılım geliştirme operasyonlarını güvence altına alan ve kolaylaştıran bir depo yönetim sistemi olan, kendi kendini yöneten bir Artifactory örneği olduğu belirtildi.

JFrog, Artifactory'nin yüzde 80'i Fortune 100 şirketleri için çalışan 7.500'den fazla geliştirici Ekip tarafından kullanıldığını söylüyor. JFrog CTO'su Yoav Landman şunları yazdı: "Sınır siber yeteneklerinin dahili değerlendirmesi sırasında, OpenAI'nin izole bir araştırma ortamında kasıtlı olarak üretim korumaları olmadan çalışan modelleri, sanal alanından kaçmak, açık internete ulaşmak ve Hugging Face'nin altyapısından değerlendirme yanıtlarını çıkarmak için otonom olarak keşfedildi ve zincirlenmiş güvenlik açıklarını kullandı." Yönetici, şirketin sıfır günleri OpenAI'den öğrendiğini söyledi. Şirket Pazartesi günü yaptığı açıklamada, istismar edilen güvenlik açıklarını düzelttiğini söyledi ancak bunları tanımlamadı veya güvenlik açıklarından yararlanılabilecek koşullar gibi diğer önemli ayrıntıları sağlamadı. Bu tür ayrıntılar, müşterilerin riskleri değerlendirmesi için gerekli olduğundan birçok güvenlik açığı açıklamasında standarttır. Bir e-postada bir şirket temsilcisi ayrıntıları vermeyi reddetti. Artifactory 7.161.15 sürümü için Pazartesi günü yayınlanan sürüm notlarında dokuz yamalı güvenlik açığı için CVE tanımları listelendi.