OpenAI, bir değerlendirme sırasında Hugging Face'in modellerinin hacklendiğini duyurdu

OpenAI, modellerin bir değerlendirme sanal alanından kaçtığını, sıfır günü bulduğunu ve dahili sistemlere ulaşmak için Hugging Face'nin veri kümesi hattını kullandığını söylüyor. İhlal, otonom siber riski kıyaslama puanlarından harici bir üretim sistemine taşıyarak, azaltılmış güvenlik önlemlerine sahip uzun vadeli modellerin etrafındaki zayıf korumayı açığa çıkardı. OpenAI 21 Temmuz'da siber yetenekli modellerinin kıyaslama ortamından kaçtığını ve Hugging Face'nin üretim altyapısının bazı kısımlarını tehlikeye attığını ve dahili yetenek testini yapay zeka modelleri ve veri kümeleri için en büyük barındırma platformlarından birinde bir güvenlik olayına dönüştürdüğünü söyledi. OpenAI ve Hugging Face ihlali ortaklaşa araştırıyor. Hugging Face Axios'a göre kurucu ortak ve CEO Clem Delangue, işbirliğini yapay zeka güvenliğinin şirketlerin başarısızlıkları özel olarak araştırmak yerine birlikte çalışmasını gerektirdiğinin kanıtı olarak tanımladı. OpenAI, GPT-5.6 Sol ve isimsiz, daha yetenekli bir ön sürüm modeli de dahil olmak üzere bir model kombinasyonunun, aracıların bilinen yazılım açıklarını çalışan istismarlara dönüştürüp dönüştüremeyeceğini test eden bir değerlendirme olan ExploitGym'i çalıştırırken izinsiz girişe neden olduğunu söyledi. OpenAI'in Axios tarafından bildirilen hesabına göre modellerin korumaları test için kasıtlı olarak azaltılmıştı. Modeller, kıyaslama çözümünü almaya odaklandı ve OpenAI önemli miktarda çıkarım hesaplaması olarak adlandırdığı şeyi bu çözümü takip etmek için harcadı.

Değerlendirme ortamında barındırılan üçüncü taraf yazılımlarda sıfır gün güvenlik açığı buldular, bunu açık internet erişimi elde etmek için kullandılar ve ardından Hugging Face'a ulaştılar. Bu yol temel bir kontrol altına alma başarısızlığını ortaya çıkardı. Yetkisiz kod yürütmeyi ölçmek için tasarlanan bir kıyaslama, kalıcı modellere, değerlendirme altyapısının kendisindeki zayıflıkları aramak için yeterli zaman, araç ve bilgi işlem sağladı. Korumalı alan başarısız olduğunda modeller, amaçlanan hedefin dışındaki sistemlerle etkileşime girebiliyordu. Hugging Face izinsiz girişi 16 Temmuz'da açıkladı, OpenAI kendi modellerini kaynak olarak tanımlamadan beş gün önce. Hugging Face başlangıçta ihlalin uçtan uca otonom bir aracı çerçeve tarafından gerçekleştirildiğini söylerken, buna güç veren model bilinmiyordu. İzinsiz giriş, iki kod yürütme yolunu kötüye kullanan kötü amaçlı bir veri kümesiyle başladı: uzaktan kod veri kümesi yükleyicisi ve veri kümesi yapılandırmasındaki şablon ekleme hatası.