Anthropic'ten Dario Amodei yanıt veriyor: açık ağırlık modellerine karşı değil, ancak Çinli AI'dan korkuyor

Anthropic Kurucu ve CEO Dario Amodei Pazartesi öğleden sonra sektörde, şirketinin ABD hükümetinin açık ağırlıklı Çin modellerini veya muhtemelen genel olarak açık ağırlıklı modelleri yasaklama çabalarını bir şekilde desteklediği yönündeki mırıldanmalara yanıt verdi. Geçmiş yazılarımı okuyan herkes bu tür yasakları yararlı bir önlem olarak görmediğimi bilmelidir, ancak şüpheye yer bırakmamak için açıkça belirteyim: Anthropic hiçbir zaman açık ağırlık modellerinin yasaklanmasını savunmadı, diye yazdı, kendi vurgusunu yaparak. Onun yanıtı, Nvidia'nin kurucusu ve CEO'su Jensen Huang'ın Cuma günü X'e (platformdaki ilk gönderisi) gidip Nvidia ve Hugging Face, Meta, Microsoft, Mistral ve Nvidia dahil olmak üzere diğer AI şirketlerinin uzun bir listesinin politika yapıcıları açık ağırlıklı AI modellerine geniş "erken kısıtlamalar" getirmemeye çağırdığı açık bir mektubu paylaşmasının ardından geldi. Her ne kadar mektupta Çin'den özel olarak bahsedilmese de sektördeki tartışma, Çin yapay zeka laboratuvarlarının Amerikalı muadillerinin fikri mülkiyetlerini çalarak kapasitelerinin arttığı yönündeki iddialara odaklandı. Yöntemlerden biri, bir yapay zekanın nasıl çalıştığını öğrenmek için başka bir modeli bombardıman ettiği damıtmadır. Amodei Pazartesi günü yayınlanan blog yazısında açık ağırlıklı modellerin Çin'in oluşturduğu tehditten farklı bir grupta yer aldığını düşündüğünü söyledi.

Tehlikeli yeteneklere sahip olmayan açık ağırlıklı modeller kamu yararınadır: Onları çalıştırmak için gereken bilgi işlem dışında hiçbir maliyeti yoktur ve işletmelere, geliştiricilere ve araştırmacılara değer sağlarlar. Amodei, paylaşımında yapay zeka konusunda uzun süredir korkuları olduğunu ancak açık ağırlıklı modeller kullanan işletmelerin, hatta Çin'den gelenlerin bile bunların arasında olmadığını söyledi. Onun korkusu, otoriter hükümetlerin kalıcı askeri üstünlük elde etmek ve/veya yapay zekayı kendi halklarını baskı altına almak için ABD'dekilerden daha güçlü modeller inşa etmesidir. Kendisi, Çin Komünist Partisinin (ÇKP) endişe duyduğu tek otoriter hükümet olmadığını ama en yetenekli hükümet olduğunu söyledi. Amodei ayrıca yapay zekanın sadece siber güvenlik saldırılarını değil, biyolojik saldırıları da mümkün kılmasından korktuğunu söyledi. Ona göre açık ağırlıklı modeller bu senaryolarda daha tehlikeli çünkü bunlara korkuluk uygulamak veya kullanımlarını izlemek zor.