Sıcak Fransız girişimi ZML, birçok AI çipi üzerinden çıkarımı hızlandırmak için ücretsiz ürün yayınladı
Özgün başlık: Hot French startup ZML releases free product to speed inference across lots of AI chips
Nvidia'nin benzersiz pazar hakimiyetinin günleri henüz bitmedi, ancak her yönden rakipler ve seçimler ortaya çıkıyor. Turing Ödülü sahibi Yann LeCun tarafından desteklenen Fransız yapay zeka girişimi ZML, Nvidia'ler, AMD'ler, Google'ın TPU'su, Apple Metal ve Intel Arc dahil olmak üzere çeşitli açık kaynaklı büyük dil modellerinin çeşitli çipler üzerinde çalışmasına olanak tanıyan çıkarım performansı yazılımını piyasaya sürdü. ZML kurucusu Steeve Morin, TechCrunch'a, yeni başlatılan LLM çıkarım sunucusu ZML/LLMD ile şirketin amacının mevcut siloları kırmak ve AI kullanım durumları için farklı çipleri mümkün olan maksimum hızda ve bazen daha hızlı hale getirmek olduğunu söyledi. Morin, AI işimize ve günlük yaşamlarımıza entegre oldukça, çıkarımı optimize etmenin (diğer bir deyişle istemlerin işlenmesi) önem açısından model eğitimini geride bıraktığını, ancak satıcıya bağımlılığa yol açan yazılım ve mimari engeller nedeniyle sahne arkasında çoğu zaman düzensiz hissedildiğini söyledi. Çeşitli çiplerde en yüksek performansı elde etme vaadi teknolojik bir başarıdır, ancak aynı zamanda yapay zeka ile ilgili maliyetlere ilişkin korkuların arttığı bir ortamda pazarda yıkıcı bir etki de yaratabilir. ZML, işletmelere ve bulutlara, bazıları daha az maliyetli veya daha az enerji tüketen çeşitli yongaları kullanma seçeneği sunmayı umuyor.
Morin, "Amaç, insanlara kendi sistemlerini oluşturma gücünü geri vermek ve [AI]'nın yayılmasına olanak tanıyan gerçek verimlilik kazanımları elde etmektir" dedi. Morin, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA'ya atıfta bulunarak, böyle bir yazılım desteğinin, çoğu Avrupalı olan yeni yapay zeka çip üreticilerine yardımcı olabileceğini gözlemledi. Ancak onun için önemli olan, menşe bölgelerinden çok, ZML'nin onlarla "dünyanın hiçbir yerinde daha önce yapılmamış şeyler" üzerinde çalışabilmesidir. Bu, Morin'in Nvidia'de düşüş eğiliminde olduğu anlamına gelmiyor. Kısmen mevcut arz nedeniyle değil. TechCrunch'a, ZML'nin çıkarımların yükselişine hazırlanan AI çip devi ile iyi bir ilişkisi olduğunu söyledi. Çıkarım o kadar yoğun yatırımların yapıldığı bir alan ki, bu eğilim “çıkarsama altına hücum” olarak anılıyor.