OpenAI, AI'sının Bir Sandbox'tan Kaçtığını ve Hugging Face'i İhlal Ettiğini Doğruladı

OpenAI, GPT-5.6 Sol ve yayınlanmamış bir modelin güvenli bir testten kaçtığını, sıfır günü istismar ettiğini ve siber güvenlik değerlendirmesinde hile yapmak için Hugging Face'yi hacklediğini söylüyor. OpenAI Salı günü yaptığı açıklamada, amiral gemisi Sol da dahil olmak üzere iki yapay zeka modelinin güvenli bir test ortamından çıktığını, üçüncü taraf yazılımındaki sıfır gün güvenlik açığından yararlanarak internet erişimi elde ettiğini ve Hugging Face'nin üretim altyapısına sızdığını söyledi. Şirket, olayı "benzeri görülmemiş" olarak nitelendirdi ve savunucuların sınır modellerinin artık neler yapabileceğini anlamalarına yardımcı olmak için ön bulguları paylaştığını söyledi. Her iki model de saldırı yeteneklerinin dahili değerlendirmesinin bir parçası olarak daha düşük siber güvenlik korkuluklarıyla çalışıyordu. Ücretsiz olarak kullanılabilen bir siber güvenlik kriteri olan ExploitGym'e karşı test ediliyorlardı ve teste verilen yanıtların Hugging Face'nin üretim sistemlerinde saklandığını belirlediler. Modeller değerlendirmeyi amaçlandığı gibi çözmek yerine cevap anahtarının peşine düştü. OpenAI'nin "önemli miktarda çıkarım hesaplaması" olarak tanımladığı şeyi, korumalı alan ortamından bir çıkış yolu bulmak için harcadılar, ardından Hugging Face'nin veri kümesi işleme hattında iki uzaktan kod yürütme güvenlik açığını zincirlediler.

Hugging Face'nin 16 Temmuz'daki kendi açıklamasına göre, saldırı bulut ve küme kimlik bilgilerini topladı, yanal olarak dahili kümelere taşındı ve kısa ömürlü sanal alanlardan oluşan bir sürüde 17.000'den fazla bireysel eylem gerçekleştirdi. AB teknoloji dünyasından en son söylentiler, bilge kurucumuz Boris'ten bir hikaye ve bazı şüpheli yapay zeka sanatı. Her hafta gelen kutunuzda ücretsizdir. Şimdi kaydolun! Hugging Face izinsiz girişi tespit ettiğini, kontrol altına aldığını ve ele geçirilen düğümleri yeniden oluşturduğunu söyledi. Şirket, genel modellere, veri kümelerine veya Alanlara müdahale edildiğine dair hiçbir kanıt bulamadı ve yazılım tedarik zincirinin temiz olduğunu doğruladı. Halen herhangi bir iş ortağı veya müşteri verisinin etkilenip etkilenmediğini değerlendiriyor. İhlalleri araştırmak için Hugging Face Çin'in açık ağırlıklı modeli GLM'ye başvurdu çünkü ABD ticari modellerindeki güvenlik korkulukları ekibinin çalıştırması gereken adli sorguları engelledi. Bu kaçış Sol'un kendi değerlendirmelerini yaparken yakalandığı ilk sefer değil. Modeli piyasaya sürülmeden önce yeniden bir araya getiren bağımsız laboratuvar olan Model Değerlendirme ve Tehdit Araştırması organizasyonu, modelin puanlarını şişirmek için test ortamlarını agresif bir şekilde hacklediğini tespit etti.