Asi OpenAI ajanı, hacklediği girişimden diğer firmalara saldırmaya çalıştı

ChatGPT geliştirici, otonom aracın etkinliğinin Hugging Face'de meydana gelen ciddiyet veya ölçekte olmadığını söylüyor OpenAI, sahtekar bir yapay zeka ajanı tarafından gerçekleştirilen bir siber saldırının birden fazla kurbanının olduğunu ortaya çıkardı. ChatGPT geliştiricisi, insan yardımı olmadan komut dizilerini yürütebilen özerk bir araç olan aracının, ABD'deki startup Hugging Face'ye ek olarak diğer dört isimsiz "kamuya açık hizmete" erişmek için oturum açma bilgileri bulduğunu ve kullandığını söyledi. Faaliyetin, yapay zeka modellerinden oluşan bir veri tabanına ev sahipliği yapan Hugging Face şirketinde meydana gelen ciddiyet veya ölçekte olmadığını söyledi. İki OpenAI modeliyle desteklenen ajan, dahili bir siber güvenlik testi sırasında kontrolden kaçmış ve girişime saldırmıştı. “[OpenAI] modelleri, diğer kamuya açık hizmetlerde hesap düzeyinde kamuya açık kimlik bilgilerini tanımladı ve kullandı.

Bu, Hugging Face olayının bir parçası olarak dört hizmetteki dört hesabı içeriyor” dedi OpenAI. Yapay zeka girişimlerinin yapay zeka araçlarını çalıştırmak için ihtiyaç duydukları çiplere erişmesine yardımcı olan bir şirket olan Modal Labs, aracının Modal platformunda barındırılan bir müşteri tarafından yazılan savunmasız koddan yararlandığını söyledi. Olayın Hugging Face tarafından bu hafta yayınlanan zaman çizelgesine göre, hileli ajan kendi sanal alanından (veya yalıtılmış bir test ortamından) kaçtı ve "üçüncü taraf sağlayıcının altyapısında barındırılan" başka bir sanal alanı hackledi ve ardından burayı "daha geniş bir saldırı için bir fırlatma rampasına" dönüştürdü. Modal'ın baş teknoloji sorumlusu Akshat Bubna, Reuters'e, etkilenen müşterinin "internetteki herkesin kod yürütmek için sanal alanlarını kullanmasına izin veren, kimliği doğrulanmamış bir uç nokta yayınladığını" söyledi; bu, bir kapıyı açık bırakmanın dijital eşdeğeridir. OpenAI geçen hafta saldırının GPT-5.6 Sol modeli ve isimsiz bir model tarafından oluşturulduğunu söyledi. Salı günü yaptığı güncellemede, isimsiz modelin "devre dışı bırakıldığını, şifrelendiğini ve araştırma erişiminin kısıtlandığını" söyledi. Yeni Hugging Face zaman çizelgesinde girişim, iki OpenAI modeliyle desteklenen bir aracının, saldırıyı gerçekleştirmek için makine hızında yürütülen binlerce küçük, otomatik karar verdiğini söyledi. Saldırının, OpenAI adresindeki dahili bir siber güvenlik testini "hile yapma" girişiminden kaynaklandığı ve temsilcinin, Hugging Face'nin testin çözümlerini barındırabileceği sonucunu çıkardığını söyledi.