NVIDIA, siber savunmayı geliştirmek için 'Açık Güvenli AI İttifakı' girişimini başlattı

NVIDIA, Microsoft, Dell ve SpaceX dahil kurucu üyeler. NVIDIA, siber güvenliği geliştirmek amacıyla Açık Güvenli Yapay Zeka İttifakını oluşturmak için dünyanın en büyük teknoloji şirketlerinden bazılarını bir araya getirdi. 27 kurucu üye arasında Microsoft, SpaceX, Dell, The Linux Foundation ve NVIDIA'nin kendisi bulunmaktadır. NVIDIA, "Linux Vakfı'nın Akrites girişimi ve OpenSSF topluluk çalışmasının liderliğini temel alan Açık Güvenli Yapay Zeka İttifakı, açık teknolojileri kullanarak güvenlik açıklarını düzeltmek ve ortaya çıkarmak için çalışacak" diye yazdı. Grup, Anthropic'ın Mythos 5'i gibi yapay zeka modelleri çağındaki saldırılara karşı en iyi savunmayı yapmak için güvenlik araştırmacılarının hem açık hem de kapalı sınır modellerine erişmesi gerektiğini savunuyor. Bunun başlıca örneği olarak NVIDIA, OpenAI'nin Hugging Face'ye yaptığı son hileli saldırıyı gösterdi. Hugging Face, hack'i bulmak ve engellemek için ilk olarak kapalı ticari sınır modellerini kullanmaya çalıştı ancak talepleri güvenlik korkuluklarını tetikledi ve reddedildi. Daha sonra açık kaynak modellere geçerek saldırıyı durdurmayı başardı. NVIDIA, "Saldırganları savunuculardan ayırt edemeyen kapalı yapay zeka araçları temel adli analizleri engellediğinde, Hugging Face 17.000'den fazla eylemi analiz etmek ve izinsiz girişi kontrol altına almak için kendi altyapısında açık ağırlıklı GLM 5.2 modelini çalıştırdı" diye yazdı. NVIDIA ve bazı ortakları ittifaka farklı unsurlar katmak için adım atıyor.

NVIDIA yeni siber güvenlik araçları ve tekniklerinin gelişimini hızlandırmak için açık modeller, model ağırlıkları, veriler ve yeni ajan donanımları sunacağını söyledi. HPE, AI aracılarını ve hizmetlerini kriptografik olarak doğrulayabilen standartlar ve yöntemler sunarken, Hugging Face da Safetensors adı verilen AI model ağırlıklarını depolamak için güvenli bir formata katkıda bulunacak. Microsoft, SpaceXAI, IBM ve Red Hat ayrıca açık kaynak yapay zeka teknolojisi sunuyor. Grup ayrıca hükümetleri şirketlerle ortak OpenAI altyapı yatırımları konusunda çalışmaya çağırıyor. Düzenleyicilerin açık modelleri "yükümlülükler değil savunma varlıkları" olarak tanıması gerektiğini de ekleyerek, açık sınır yapay zeka sistemlerine yönelik genel kısıtlamaların birkaç kapalı sağlayıcıya "savunma kapasitesini zayıflattığını ve riskleri yoğunlaştırma gücünü" zayıflattığını söyledi. Son haberlere göre Trump yönetimi, Çin'in açık kaynaklı yapay zeka modellerine geniş bir yasak getirmeyi düşünüyor. Bunlar, kullanımı daha ucuz olduğundan OpenAI ve Anthropic gibi kapalı modellere karşı popülerlik kazanıyor.