OpenAI ve Anthropic, açık ağırlık yapay zeka risklerine karşı birleşti

OpenAI ve Anthropic müşteriler için kıyasıya rekabet ediyor. Ancak Washington'da önde gelen iki yapay zeka laboratuvarı tek bir konuda aynı fikirde: Politika yapıcıları güçlü Çin açık ağırlıklı yapay zeka modellerinin riskleri konusunda uyarmak. Neden önemli: Bu ortak konum, ABD'nin en iyi yapay zeka laboratuvarlarını, yapay zekaya geniş erişimin rekabet ve bilimsel ilerleme için gerekli olduğunu savunan araştırmacılar, startuplar ve açık model savunucularıyla karşı karşıya getiriyor. Büyük resim: Kapalı model laboratuvarlar, açık ağırlıklı modellerin daha fazla incelenmesinden faydalanacaktır. Trump yönetim danışmanı David Sacks da dahil olmak üzere eleştirmenler, incelemenin düzenleyici yakalama anlamına gelebileceğini söylüyor: Yapay zeka güvenliğini iyileştirmeyi amaçlayan kurallar, bunun yerine, rakiplerin model yayınlamasını zorlaştırarak en büyük şirketleri sağlamlaştırabilir. Anthropic CEO Dario Amodei, açık ağırlıklı modellerin güvende tutulmasının daha zor olduğunu, çünkü ağırlıklar serbest bırakıldığında geliştiricilerin erişimi iptal etme, güvenlik korkuluklarını güncelleme veya kötüye kullanımı önleme yeteneklerini kaybettiklerini savundu. Açık ağırlıklı modellerin destekçilerinin güçlü yönleri olarak gördükleri şey tam olarak budur: Hiçbir şirket bunları kimin veya nasıl kullanacağını tek başına kontrol edemez. OpenAI bir sözcü, açık kaynağı "erişimi demokratikleştirmenin" bir parçası olarak gördüğünü ancak ulusal bir çerçeve içinde gördüğünü söyledi. Şirket bunun nasıl çalışacağını açıklamadı. Kendi açık kaynak modeline sahip olan OpenAI, üst düzey Trump yönetimi yetkililerini hatırlatarak, bir modelin başka bir şirketin modelinden eğitildiği bir süreç olan damıtma işlemine karşı uyarıda bulundu. BİZ.

Ticaret Temsilcisi Jamieson Greer, ajansın Çin damıtma işlemini bir tür fikri mülkiyet hırsızlığı olarak gördüğünü söyledi. Hazine Bakanı Scott Bessent dün Çin'den gelen modellerin ABD modelleriyle aynı standartlarda tutulması gerektiğini ve önümüzdeki haftalarda inceleneceğini söyledi. Sürtüşme noktası: ABD modelleri için henüz ayrıntılı güvenlik standartları bulunmuyor ve yönetim bunların nasıl görünmesi gerektiği konusunda karar verme aşamasında. ABD yetkililerinin damıtma iddiaları doğrulanırsa, bu, Çinli model sağlayıcıların Amerikan modellerini daha düşük maliyetle karşılaştırılabilir sistemler geliştirmek için kullandıkları ve ardından ABD laboratuvarlarıyla rekabet etmek için sübvansiyonlu versiyonları Batı pazarlarına sundukları anlamına gelecektir. Satır arasında: Savunucular, damıtma işleminin IP hırsızlığı olarak ele alınmasının, bağımsız olarak geliştirilen modeller de dahil olmak üzere açık ağırlıklı modellerde fiili kısıtlamalara yol açabileceği konusunda uyarıyor.