Eski OpenAI CTO'su, 9 ayda açık ağırlık modeli geliştirdi

Özgün başlık: Former OpenAI CTO builds open weight model in 9 months
Eski OpenAI CTO Mira Murati tarafından kurulan yapay zeka girişimi Thinking Machines Lab, Inkling adlı ilk şirket içi yapay zeka modelini Çarşamba sabahı piyasaya sürdü. Ve OpenAI, Anthropic veya Google'ın amiral gemisi modellerinden farklı olarak açık ağırlıklıdır, yani dışarıdaki geliştiriciler ve şirketler onu indirebilir ve doğrudan değiştirebilir. Inkling, toplam 975 milyar parametreye sahip uzmanların karışımından oluşan bir sistemdir; ancak herhangi bir görev için bunun yalnızca küçük bir kısmını (yaklaşık 41 milyar) kullanır; çok büyük modellerin daha hızlı ve daha ucuz çalıştırılmasını sağlayan ortak bir tasarımdır. Şirketin kendi yayın materyallerine göre, 45 trilyon metin, resim, ses ve video tokeni ve bunların dördünün de yerel nedenleri üzerinde eğitildi. Ancak şimdilik çıktıları kod, stillendirilmiş yapılar ve yapılandırılmış veriler de dahil olmak üzere metinle sınırlıdır. Model, Thinking Machines Labs'ın yapay zeka altyapısını büyük ölçüde kamuoyunun gözü önünde oluşturmak için bir buçuk yıl harcadıktan sonra ilk halka açık kanıt noktası oldu. Bu çalışmaların bir kısmı, etkileşim modellerinin Mayıs ayında yapılan bir araştırma önizlemesinde zaten ortaya çıkmıştı - yapay zeka, tipik sohbet robotlarında olduğu gibi durup beklemek yerine dinlemek ve konuşmak (ve hatta sözünü kesmek) için tasarlandı.
Bu aynı zamanda startup'ın arkasında yatan temel iddianın da bir testi: Kuruluşların kendilerine uyarlayabileceği yapay zeka, şu anda en büyük laboratuvarların sattığı her şeye uyan tek modelden daha iyi performans gösterecek. Inkling, tahmin etmek yerine belirsizliği işaretlemek de dahil olmak üzere kalibre edilmiş yanıtlar vermek üzere tasarlandı ve kullanıcıların hız için ticaret yapmak istediklerinde düşünme çabalarını artırmalarına veya azaltmalarına olanak tanıyor. Şirket, bir kıyaslamada Inkling'in aynı kodlama performansına ulaşmak için Nvidia'ın en yeni nesil açık ağırlık modeli olan Nemotron 3 Ultra'nın üçte biri kadar token kullandığını söylüyor. Thinking Machines, Inkling'in sınıfının en iyisi olduğunu iddia etmiyor. En yeni blog yazısı, Inkling'in bugün mevcut olan açık veya kapalı en güçlü genel model olmadığını açıkça belirtiyor. Açıkçası bunun yerine çok yönlü bir performans amaçlanıyor. Bu durum, hedeflediği kurumsal pazarda bu ürünün gerçekte kimin için olduğu sorusunu gündeme getiriyor. Thinking Machines, şimdilik Inkling'i bitmiş bir üründen çok bir başlangıç noktası olarak pazarlıyor; kuruluşların şirketin model özelleştirme platformu Tinker aracılığıyla kendilerine ince ayar yapmaları için bir şey.