Güvenlik olayı bildirimi - Temmuz 2026

Ne oldu Ne yaptık Topluluğumuz için Yapay zeka kaynaklı bir izinsiz girişi analiz etmek Asimetri sorunu Bunun anlamı nedir Bu haftanın başlarında, üretim altyapımızın bir kısmına yönelik bir izinsiz giriş tespit edip müdahale ettik. Bu, daha önce ele aldığımız her şeyden önemli bir açıdan farklıydı: uçtan uca otonom bir yapay zeka ajan sistemi tarafından yönetiliyordu ve biz onu büyük ölçüde kendi yapay zekamızla tespit edip parçalara ayırdık. Sınırlı sayıda dahili veri kümesine ve hizmetlerimiz tarafından kullanılan çeşitli kimlik bilgilerine yetkisiz erişim tespit ettik. Herhangi bir iş ortağı veya müşteri verisinin etkilenip etkilenmediğine ilişkin değerlendirmemizi hâlâ tamamlıyoruz ve gerektiğinde etkilenen taraflarla doğrudan iletişime geçeceğiz. Herkese açık, kullanıcıya yönelik modellerde, veri kümelerinde veya Alanlarda değişiklik yapıldığına dair hiçbir kanıt bulamadık ve yazılım tedarik zincirimizin (konteyner görüntüleri ve yayınlanan paketler) temiz olduğu doğrulandı. İzinsiz giriş, AI platformlarının benzersiz bir şekilde açığa çıktığı yerde başladı: veri işleme hattı. Kötü amaçlı bir veri kümesi, bir işleme çalışanında kod çalıştırmak için veri kümesi işlememizdeki iki kod yürütme yolunu (uzaktan kod veri kümesi yükleyicisi ve veri kümesi yapılandırmasına şablon ekleme) kötüye kullandı.

Aktör buradan düğüm düzeyinde erişime geçti, bulut ve küme kimlik bilgilerini topladı ve bir hafta sonu boyunca yanal olarak birkaç dahili kümeye geçti. Kampanya, kamu hizmetlerinde kendi kendine geçiş yapan komuta ve kontrol ile kısa ömürlü bir sanal alan sürüsü üzerinde binlerce bireysel eylemi gerçekleştiren özerk bir aracı çerçevesi (ajanlı bir güvenlik araştırma donanımı üzerine kurulmuş gibi görünüyor - LLM'nin kullanıldığı hala bilinmiyor) tarafından yürütüldü. Bu, endüstrinin öngördüğü "ajan saldırgan" senaryosuyla eşleşiyor. Sorunu araştırmak ve güvenlik politikalarımız�� ve prosedürlerimizi gözden geçirmek için dışarıdan siber güvenlik adli tıp uzmanlarıyla çalışıyoruz. Son olarak bu olayı kolluk kuvvetlerine de bildirdik. Önlem olarak, tüm erişim jetonlarını dönüşümlü olarak kullanmanızı ve hesabınızdaki son etkinlikleri incelemenizi öneririz. Etkilendiğinizi düşünüyorsanız veya bir güvenlik endişesini bildirmek istiyorsanız, bizimle Security@huggingface.co adresinden iletişime geçin. Hugging Face günün her saatinde yanıt veren ekiplere minnettarız ve bunun neden olduğu aksaklıklar için özür dileriz.