OpenAI'nin ajanları model testleri sırasında ikinci bir hesabı hackledi

Bir güvenlik yöneticisi Reuters'e verdiği demeçte ve Axios'a yaptığı açıklamada OpenAI'nin modellerinin dışarıdan bir firmaya yapılan başka bir saldırıdan sorumlu olduğunu doğruladı. Neden önemli: Bu, OpenAI'nin hileli ajan sisteminin bu ayın başlarında yapılan testler sırasında sınırlamayı kırdıktan sonra hacklediği ikinci şirket. Büyük resim: OpenAI şu anda ABD hükümetinin en güçlü modelini kamuoyuna duyurmak için onay alması için baskı yapıyor. Durum: Modal Labs CTO'su Akshat Bubna Salı günü Reuters'e verdiği demeçte ve Axios'a doğrulayarak, bu ayın başlarında bir OpenAI temsilcisinin Hugging Face sistemlerine girmesiyle müşterilerinden birinin varlıklarının saldırıya uğradığını doğruladı. Hugging Face Pazartesi günü hackle ilgili teknik bir yazısında, OpenAI'nin AI ajan sistemi arka ucuna girdiğinde, ajanın aynı zamanda "üçüncü taraf bir sağlayıcının altyapısında barındırılan" izole bir test ortamına da eriştiğini söyledi. Bubna, Axios'a yaptığı açıklamada, "Bir Modal müşterisinin, internetteki herkesin kod yürütmek için sanal alanlarını kullanmasına izin veren, kimliği doğrulanmamış bir uç nokta yayınladığının farkındayız." dedi. "Bu, sahtekar ajan tarafından kullanıldı. Modal'ın platformu hiçbir şekilde tehlikeye atılmadı." Bunun, Modal müşterisinin kodunu Modal altyapısı üzerinde çalıştırdığı anlamına geldiğini ekledi. "Kodlarında istismar edilen bir güvenlik açığı vardı. Modal'ın altyapısı hiçbir şekilde tehlikeye atılmadı." Konuya aşina bir kaynak, Axios'a, ele geçirilen müşteri varlığının, çözmekle görevlendirildiği ExploitGym testinin arkasındaki proje olan CyberGym'e bağlı olduğunu söyledi.

Yakınlaştırın: OpenAI, Axios'u, Hugging Face siber olayıyla ilgili orijinal açıklamasının Salı günü yapılan güncellemesine işaret etti. Açıklamada, gelecek sürüm için planlanan hiçbir modelin söz konusu olmadığı belirtiliyor ancak modellerin diğer kamu hizmetlerinde kamuya açık hesap düzeyindeki kimlik bilgilerini bulup kullandığı "az sayıda vaka" tespit edildiği belirtiliyor. Hugging Face olayına dört hizmetteki dört hesabın karıştığı belirtildi. OpenAI güncellemede "Giderek daha yetenekli yapay zeka sistemlerinden kaynaklanan riskleri belirleme ve bunlara hazırlanma sorumluluğumuzu ciddiye alıyoruz" dedi. Satır arasında: OpenAI'nin, henüz piyasaya sürülmemiş bir model de dahil olmak üzere bir model kombinasyonunun dahili testler sırasında hileli davrandığını ve gerçek dünya şirketlerinin hacklendiğini açıklaması, öncü yapay zeka laboratuvarlarının ne kadar hızlı ilerlediği konusunda alarm zillerini çaldırdı.