ABD merkezli açık kaynak AI laboratuvarı Arcee, Çin modellerinin doğası gereği tehlikeli olmadığ��nı söyledi

Çin açık ağırlıklı yapay zeka modellerinin kapasitesi ve popülaritesi arttıkça, bunlar hakkında ne yapılması gerektiğine dair tartışmalar bir kez daha hararetli bir noktaya ulaştı. Trump yönetiminin bunları yasaklamaya çalışabileceği yönünde söylentiler var (her ne kadar henüz bu fikir üzerinde harekete geçmemiş olsa da). Bu arada, özel model oluşturucular, özellikle OpenAI ve Anthropic, onlar hakkında giderek daha fazla endişe duyuyor gibi görünüyor. Moonshot AI s Kimi K3 veya Alibaba s Qwen gibi açık ağırlıklı modeller, bu büyük ABD laboratuvarlarındaki kapalı kaynak modellerinin jeton maliyetinin çok altında çıkarımlar sunar. Korku, aynı zamanda bir çeşit tehdit oluşturmalarıdır. Kesinlikle büyük özel yapay zeka laboratuvarlarının kar marjlarını tehdit ediyorlar. Peki bu modelleri kendi veri merkezlerinde çalıştıran şirketler, bunların Çinli hackerlar için bir vektör olabileceği korkusuna yenik düşmeli mi? Hayır, diyor Arcee'nin CTO'su Lucas Atkins, ABD şirketlerine Çin modellerine karşı yerli bir alternatif sunmak için açık modeller geliştiriyor. Eğer herhangi bir girişim Çin modellerinin yasaklanmasından faydalanacaksa Arcee de faydalanacaktır. Ancak Atkins, Çin'in açık modellerinin bir şirketin kullanabileceği diğer açık kaynaklı yazılımlardan daha tehlikeli olmadığını söylüyor. Aslında kendi şirketine bile fayda sağladıklarını söylüyor. Birçok kişi bunu Çin yazılım programına benzetiyor. Sanki kötü bir aktörün kolayca yönetebileceği bu x, y, z niyetleriyle kodlanmış, dedi. Temel olarak bu modellerin eğitilme şekli bu değildir.

Bir Arcee'nin veya Alibaba'nin bir model yapmasının, birisinin onu kendi ortamında çalıştırmasının ve bizim için herhangi bir şekilde ona erişim sahibi olmamızın gerçekten bir yolu yok, diye açıkladı. Bu modellerin çoğu açık ağırlık olarak bilinen ve gerçekte tamamen açık kaynaklı yazılımlar olmasa da, kaynak kodu (gerçekte sunucularda çalışacak kısım) Hugging Face gibi açık kaynak sitelerden indirilirse benzer şekilde büyük ölçüde görünür ve incelenebilir. (Modelleri eğitmek için kullanılan yöntemler ve veriler mevcut değildir.) Büyük kuruluşlar herhangi bir model çekirdeğini güvenlik testi ve inceleme süreçlerine tabi tutmalıdır; ayrıca modelleri genellikle kendi özel kullanımlarına yönelik olarak sonradan eğitirler ve önyargı, toksisite, halüsinasyonlar ve belirli konulara duyarlılık gibi alanları inceleyebilirler.