Yapay zeka güvenliğiyle ilgili endişeler arttıkça, üç öncü açık kalmanın önemini ortaya koyuyor

Pacing the Frontier gibi projeler yapay zeka araştırmalarını güvende tutmanın bir yolu olarak büyük laboratuvarlara yönelirken, açık kaynaklı modeller sektör için hassas bir nokta haline geldi. Ücretsiz dağıtım ve nasıl kullanıldıkları üzerinde çok az kontrol olduğundan, açık ağırlıklı modeller kolayca kontrol edilemiyor, bu da bazı laboratuvarların bunları düpedüz korkutucu olarak ele almasına yol açıyor. Ancak geçen hafta Las Vegas'ta düzenlenen Ai4 konferansında dünyanın en saygın yapay zeka araştırmacılarından üçü (Nobel Ödülü sahibi Geoffrey Hinton, World Labs CEO'su ve kurucu ortağı Fei-Fei Li ve Coursera kurucu ortağı Andrew Ng) konu hakkında konuştu. Belirli taktikler konusunda anlaşamasalar da üçü de yapay zekanın açık tutulması konusunda güçlü bir argüman ortaya koydu. Üç konuşmacı için temel endişe, bir avuç büyük yapay zeka şirketinin ilerleme hızını kontrol etmesine izin vermekti. Apple ve Google'ın mobil işletim sistemlerinde yaptığı gibi, bir teknolojiye erişimi birkaç şirket kontrol ettiğinde, inovasyon yavaşlayabilir ve platformları kontrol eden şirketler, üzerlerine inşa edilecekleri etkileyebilir. Andrew Ng, yapay zekada da benzer bir dinamiğin ortaya çıkmasından endişe duyduğunu söyledi. Ng, "Orada kapı bekçilerinin olmasını istemiyorum" dedi. Bu, hepimizin yapay zekaya erişme biçimini sınırlıyor. Şirketler, sektörü yöneten kuralları etkilemek de dahil olmak üzere, rekabet avantajlarını korumaya yönelik bir teşvike sahiptir.

Bu, yalnızca en büyük, en iyi sermayeye sahip firmaların en gelişmiş yapay zeka sistemlerini oluşturabilecek kaynaklara sahip olduğu bir dinamik yaratabilir. Ng'nin çözümü, bir avuç oyuncunun sahaya hakim olmasına izin vermek yerine, modellerin ve şirketlerin rekabet ettiği birden fazla sağlayıcıyı sürdürmekti. Ng, tek bir reçete vermeye çalışsaydım bunun açıklığı teşvik etmek olacağını söyledi, çünkü yapay zeka muhteşem bir teknoloji ve ben onun herkesin elinde olmasını istiyorum. Ancak herkes açık ağırlık modellerinin bu durumun korunmasına yardımcı olacağı konusunda hemfikir değildi. Özellikle Hinton, temel kodu inceleme ve değiştirme için kullanılabilir hale getiren açık kaynaklı yazılım ile eğitimli bir yapay zeka modelinin parametrelerini kamuya açıklayan açık ağırlıklı modeller arasında bir ayrım yaptı. Açık kaynak harika. İnsanlara kodu gösterirsiniz ve birçok kişi kod satırlarına bakıp "Ah, bir hata var" der. Açık ağırlıklar, büyük bir modeli eğittiğiniz ve ardından insanlara ağırlıkları verdiğiniz anlamına gelir. Bu çok farklı,” dedi Hinton.