OpenAI'nin Rogue AI Ajanı Hugging Face'den Daha Fazlasını Hackledi

OpenAI Salı günü yaptığı açıklamada, Hugging Face'in platformunu ihlal eden sahte AI ajanının, saldırının bir parçası olarak birden fazla üçüncü taraf hesabını ve hizmetini de hacklediğini söyledi. OpenAI'nin en son yapay zeka modellerinin dahili testi sırasında ortaya çıkan benzeri görülmemiş güvenlik olayının, şirketin başlangıçta açıkladığından daha kapsamlı olduğu artık açık. Güncellenmiş bir blog yazısında OpenAI, olayla ilgili devam eden incelemenin, "kamuya açık hizmetlere" bağlı "dört hesabın" AI ajanı tarafından Hugging Face'yi hacklemek için daha büyük bir çabanın parçası olarak kullanıldığını ortaya çıkardığını söyledi. Sahte ajanın açık ağda açığa çıkan kimlik bilgilerini bulduğu ve bunları hesaplara sızmak için kullandığı anlaşılıyor. OpenAI hesapların hangi şirket veya kuruluşlara ait olduğunu açıklamadı ancak hesapların "Hugging Face ile ilgili olarak paylaştıklarımızın ciddiyet veya ölçek düzeyinde" etkilenmediklerini kaydetti. Şirket, OpenAI'nin temsilcisi tarafından ele geçirilen ek hesaplardan birinin, potansiyel olarak Hugging Face'ye yapılan saldırının nereden geldiğini gizlemek için "giden aktarma ve hazırlama yolu" olarak kullanıldığını söyledi. OpenAI'un sahtekar ajanı, hacklemeye yardımcı olmak amacıyla veri depolamak için başka bir hesap da kullandı. Reuters Salı günü yaptığı açıklamada, AI hizmetlerinin eğitimi ve çalıştırılması için yazılım altyapısı sunan bir şirket olan Modal'ın bir müşterisinin, OpenAI'un temsilcisi tarafından ele geçirilen kuruluşlardan biri olduğunu bildirdi.

Modal'ın baş teknoloji sorumlusu Akshat Bubna, WIRED'e yaptığı açıklamada, OpenAI'nin aracısının, Modal'ın altyapısı üzerinde çalışan müşteri kod tabanlarından birinde bulunan bir güvenlik açığından yararlandığını doğruladı. Ancak Bubna, "Modal'ın platformundan hiçbir şekilde taviz verilmediğini" söylüyor. Müşterinin kimliği belirlenemedi. OpenAI WIRED'e olayla ilgili daha fazla yorum yapmayı reddetti. Bir sözcü, güncellenmiş blog gönderisine dikkat çekerek şirketin, olup bitenlere ilişkin devam eden incelemesinden etkilendiklerini tespit etmesi halinde hizmet sahiplerini doğrudan bilgilendirmeye devam edeceğini söyledi. Hugging Face'nin bu hafta yayınlanan kendi otopsi raporu, iç sistemlerine, ilk açıklamalarda öne sürülenden çok daha fazlasına ulaşan bir saldırıyı anlatıyor.