Sıcak Fransız girişimi ZML, birçok AI çipi üzerinden çıkarımı hızlandırmak için ücretsiz ürün yayınladı
Özgün başlık: Hot French startup ZML releases free product to speed inference across lots of AI chips
Nvidia'nin benzersiz pazar hakimiyetinin günleri henüz bitmedi, ancak her yönden rakipler ve seçimler ortaya çıkıyor. Turing Ödülü sahibi Yann LeCun tarafından desteklenen Fransız yapay zeka girişimi ZML, Nvidia'ler, AMD'ler, Google'ın TPU'ları, Apple Metal ve Intel Arc dahil olmak üzere çeşitli açık kaynaklı büyük dil modellerinin çeşitli çipler üzerinde çalışmasına olanak tanıyan çıkarım performansı yazılımını piyasaya sürdü. ZML kurucusu Steeve Morin, TechCrunch'a, yeni başlatılan LLM çıkarım sunucusu ZML/LLMD ile şirketin amacının mevcut siloları kırmak ve AI kullanım durumları için farklı çipleri mümkün olan maksimum hızda ve bazen daha hızlı hale getirmek olduğunu söyledi. Morin, AI işimize ve günlük yaşamlarımıza entegre oldukça, çıkarımı optimize etmenin (diğer bir deyişle istemlerin işlenmesi) önem açısından model yağmurunu geride bıraktığını, ancak satıcıya bağımlılığa yol açan yazılım ve mimari engeller nedeniyle sahne arkasında çoğu zaman düzensiz hissettirdiğini söyledi. Çeşitli çiplerde en yüksek performansı elde etme vaadi teknolojik bir başarıdır, ancak aynı zamanda yapay zeka ile ilgili maliyetlere ilişkin korkuların arttığı bir ortamda pazarda yıkıcı bir etki de yaratabilir. ZML, i��letmelere ve bulutlara, bazıları daha az maliyetli veya daha az enerji tüketen çeşitli yongaları kullanma seçeneği sunmayı umuyor.
Morin, "Amaç, insanlara kendi sistemlerini oluşturma gücünü geri vermek ve [AI]'nın yayılmasına olanak tanıyan gerçek verimlilik kazanımları elde etmektir" dedi. Morin, Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud ve VSORA'ya atıfta bulunarak, böyle bir yazılım desteğinin, çoğu Avrupalı olan yeni yapay zeka çip üreticilerine yardımcı olabileceğini gözlemledi. Ancak onun için önemli olan, menşe bölgelerinden çok, ZML'nin onlarla "dünyanın hiçbir yerinde daha önce yapılmamış şeyler" üzerinde çalışabilmesidir. Bu, Morin'in Nvidia'de düşüş eğiliminde olduğu anlamına gelmiyor. Kısmen mevcut arz nedeniyle değil. TechCrunch'a, ZML'nin çıkarımların yükselişine hazırlanan AI çip devi ile iyi bir ilişkisi olduğunu söyledi. Çıkarım o kadar yoğun bir yatırım alanı olmuştur ki, bu eğilim “çıkarım altına hücum” olarak selamlanmıştır.