Nvidia ortalığı karıştırmaz: OpenAI endüstri grubu kurulduktan bir hafta sonra zaten ilerleme gösteriyor

Nvidia'nin öncülüğünü yaptığı ve hâlihazırda 120'den fazla şirkete ulaşan bir endüstri grubu olan bir haftalık Open Secure AI Alliance (OSAA), Shared AI Findings Exchange veya SAFE adında sevimli bir çalışma grubu geliştirdi. Grup halihazırda açık yorum için teklifler sunuyor ve teklifleri grubun bir üyesi olan Linux Vakfı yönetiyor. Grup, üyeleri siber güvenlik dünyasının bağlantı noktası olan ve bu hafta Las Vegas'ta düzenlenen Black Hat konferansında bir araya gelirken bunları geliştirdi. Yönergeler şimdilik çok sarsıcı bir şey değil. Teklifler, yapay zeka siber güvenlik olaylarının nasıl gizli bir şekilde raporlanacağı, etkilenenlerin nasıl uyarılacağı ve ardından herkesin bu olaylardan öğrenebilmesi için suçlamasız analizlerin nasıl yapılacağı gibi alanları kapsıyor. Aynı zamanda, OSAA üyeleri de katkıda bulunuyor ve açık kaynak teknolojilerinin yararlı olabilecek parçalarını katalogluyor. Bu, bu tür sektör kuruluşları ilerledikçe, bir kuruluşun AI aracılarını güvence altına alması veya Hugging Face'ye sızan OpenAI modeli gibi hileli AI saldırganlarına karşı savunma yapması için açık kaynaklı bir araç halinde birleşebilir.

(Hugging Face aynı zamanda bu grubun bir üyesidir.) Örneğin, Nvidia Garak adında açık kaynaklı bir LLM güvenlik açığı tarayıcısının yanı sıra tüm açık model ailesini sunduğunu belirtti; Okta, ajan kimlik teknolojisi üzerinde çalışıyor; Red Hat temsilci yönetimi üzerinde çalışıyor; ve Amazon, hem açık aracı oluşturma aracı Strands Agents'a hem de Cedar yetkilendirme diliyle katkıda bulundu. Ve daha birçok örnek var. Grupta artık Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi çok sayıda büyük isim yer alıyor ancak Anthropic, OpenAI ve Google gibi bazı önemli eksikler de mevcut. İlginç bir şekilde hem OpenAI hem de Google, bu grubu oluşturan orijinal açık mektubu imzaladı. Geçen hafta yayınlanan mektupta Beyaz Saray'ı açık kaynak yapay zeka çabalarını ezmeye değil desteklemeye çağırıyordu. Nvidia tarafından savunuldu ve 200'den fazla teknoloji şirketi tarafından imzalandı. Anthropic'nin bugüne kadar sektör grubuna soğuk davranması sürpriz olmasa da, hem OpenAI hem de Google kendi açık ağırlık modellerini yayınladı. Google genel olarak açık kaynağın büyük bir destekçisi olarak da bilinir. Bu grup ivme kazandıkça katılıp katılmadıklarını göreceğiz. Bu arada grup yapay zeka hızında çalışıyor.