Satya Nadella, AI kullanan şirketlere şok edici bir uyarıda bulundu

Yapay zekanın potansiyel dezavantajlarına dair hararetli tartışmalar arasında Silikon Vadisi'ndeki yapay zeka meraklıları arasında en çok sıkıntıya neden olan bir endişe var. Korkuları, tescilli modeller satan dev yapay zeka laboratuvarlarının bir şekilde Truva atı gibi davranmasıdır. Sorun şu ki, startuplar ve işletmeler OpenAI ve Anthropic gibi laboratuvarların yapay zeka modellerini kullandıkça laboratuvarlar bu şirketlerin en hassas iş bilgilerine giderek daha fazla erişim kazanıyor. Model yapımcıları daha sonra bu bilgiyi kendileri için kullanabilir ve potansiyel olarak kendi müşterilerinin rakibi haline gelebilirler. Bu tür uyarılarda bulunanlar, Jason Calacanis gibi risk sermayedarlarından Palantir CEO Alex Karp'a kadar uzanıyor. Şimdi Pazartesi günü yayınlanan şaşırtıcı bir blog yazısıyla Microsoft CEO'su Satya Nadella da bu kalabalığa katıldı. Nadella, yapay zeka kullanıcılarının (kendi deyimiyle alıcılar) iki kat ödeme yaptığı konusunda uyarıyor. Yapay zeka token kullanımı için bilerek harcama yapıyorlar ama aynı zamanda farkında olmadan bu süreçte değerli verileri de aktarıyorlar. Temelde istihbarat için iki kez ödeme yaparsınız; biri parayla, diğeri ise daha değerli bir şeyle: bu istihbaratı faydalı kılmak için açığa çıkarmanız gereken özel bilgi. Modelin ne kadar iyi performans göstermesini istiyorsanız, onu o kadar çok bilgiyle beslemeniz gerekir! yazıyor. En tehlikelisi, işletmelerin modellere kelimenin tam anlamıyla işlerinin nüanslarını öğrettiğini savunuyor. Modeller egzozdan, insanların yazdığı yönlendirmelerden, temsilcilerin kullandığı araçlardan ve özellikle de model hatalı olduğunda insanların yaptığı düzeltmelerden öğrenir.

Her düzeltmenin kurumsal teknik bilgiye dönüştürüldüğünü yazıyor. Bu, bir rakibin asla satın alamayacağı türden bir bilgidir, ancak şirketler bunu başkalarına devretmektedir. Nadella, yapay zeka şirketlerinin modellerini eğitmek için internetten özgürce yararlanmaları halinde, işletmelerin de karşılığında bu modelleri incelemesinin veya damıtmasının adil olacağını savunuyor. Damıtma, bir modelin nasıl çalıştığını öğrenmek ve bu içgörülere dayalı olarak yeni, genellikle daha ucuz bir modeli eğitmek için kendi çıktılarını kullanma uygulamasıdır. Şubat ayında Anthropic, Çin açık kaynak modellerini, kendi modellerini geliştirmenin bir yolu olarak Claude'ye milyonlarca istem göndermekle suçladı ve ABD hükümetini ihracat kontrollerini sıkılaştırmaya çağırdı. Nadella'nın vurguladığı nokta, model yapımcılarının her ikisine de sahip olamayacakları.