Nvidia, SpaceX, Microsoft AI güvenliği girişimi başlattı

Nvidia ve bir dizi teknoloji devi, hileli OpenAI modellerinin gerçekleştirdiği siber saldırının sonuçları devam ederken, Pazartesi günü açık modellere odaklanan yeni bir yapay zeka güvenlik girişimi başlattı. Geçen hafta, saldırının hedefi olan startup Hugging Face'nin kendisini savunmak için önde gelen ABD sınır modellerini kullanamadığı, korkulukların saldırgan ve savunucu arasında ayrım yapmadığı ortaya çıktı. Bunun yerine, aynı kısıtlamalara bağlı olmayan, kendi kendine barındırılan, açık ağırlıklı bir Çin modeline yöneldi. ABD yasa yapıcılarının, en gelişmişleri açık ağırlık olan Çin yapay zeka modellerinin artan şekilde benimsenmesini nasıl engelleyeceklerini giderek daha fazla tartmasının ardından teknoloji devleri, OpenAI araçları oluşturmayı ve paylaşmayı amaçlayan bir girişim başlattı. Yalnızca belirli bir altyapı aracılığıyla erişilebilen, Anthropic ve OpenAI tarafından oluşturulan sınır sistemleri de dahil olmak üzere kapalı modellerin aksine, açık modeller indirilebilir, değiştirilebilir ve kendi kendine barındırılabilir. Nvidia yaptığı açıklamada, "Açık Güvenli Yapay Zeka İttifakı, açık teknolojileri kullanarak güvenlik açıklarını düzeltmek ve ortaya çıkarmak için çalışacak" dedi. "Yakın zamanda yaşanan Hugging Face güvenlik olayı net bir hatırlatma yaptı: siber savunucuların meşru müdafaa için açık, sınırda faaliyet gösteren sistemlere ihtiyacı var." İttifakın diğer üyeleri arasında Nvidia'nin yanı sıra Microsoft, SpaceX, Palantir ve ABD'den düzinelerce başka teknoloji şirketi yer alıyor.

ve Avrupa. Bir modelin daha iyi eğitimli bir modelden bilgi çıkarması anlamına gelen "damıtma" olarak bilinen, ABD'deki rakiplerinin sistemlerinden bilgi çıkarmaya yönelik kampanyalarla suçlanan Çinli yapay zeka şirketleri tarafından oluşturulan modellere erişimi sınırlamaya yönelik önlem çağrıları artıyor. Geçtiğimiz hafta Hazine Bakanı Scott Bessent, ABD şirketlerine damıtma saldırıları düzenleyen Çinli şirketlere yaptırım uygulanması tehdidinde bulundu. Düşünce kuruluşu Dış İlişkiler Konseyi'nde Çin ve gelişen teknolojilerden sorumlu kıdemli araştırmacı Chris McGuire, CNBC'ye şunları söyledi: "ABD hükümetinin Çin modellerine kısıtlama getirmesi gerçek bir olasılık." Bunun, bir API aracılığıyla token satın alma veya modeli bulutta barındıran ABD şirketleri ve çıkarım için müşterilerden ücret alma gibi modelleri içeren işlemlerin yasaklanmasını içerebileceğini söyledi. McGuire, "Washington'da bu açık kaynak mı kapalı kaynak mı tartışması değil, Çin'deki fikri mülkiyet hırsızlığına tolerans gösterilip gösterilmeyeceğine dair bir tartışma" dedi.