İlk GPU yatırımcıları neden 400 milyon dolarlık bir anlaşmada çıkarım çiplerine yöneliyor?

Yapay zeka çıkarım bulutu girişimi General Compute, teknoloji yatırım şirketi Upper90'dan 400 milyon dolarlık kredi aldı. Bu, ilk etapta modelleri oluşturmak için kullanılan daha pahalı çipler yerine, önceden eğitilmiş yapay zeka modellerini hızlı ve verimli bir şekilde çalıştırmak için oluşturulmuş çipler olan çıkarımlara özgü çipleri teminat olarak sunmak ilk anlaşma olabilir. Finansman, piyasaların yapay zeka araçlarının ve tokenlerin fiyatına ilişkin endişelere, öncü laboratuvarların en yeni LLM'lerinden daha ucuza açık kaynak modelleri çalıştıran altyapıya yönelerek yanıt verdiklerinin en son sinyali. CEO Finn Puklowski tarafından kurulan General Compute, Intel destekli çip üreticisi SambaNova'nın silikonu etrafında bir çıkarım neocloud oluşturmak için Mayıs ayında 15 milyon dolarlık bir tohum turu topladı. (Neocloud'lar, AWS veya Azure gibi geleneksel hiper ölçekleyicilerin sunduğu genel amaçlı altyapının aksine, yapay zeka iş yükleri için özel olarak tasarlanmıştır.) Şirketin SN50 çipleri çıkarım yapmak için tasarlandı. Güç açısından verimlidirler ve pahalı su soğutma sistemleri gerektirmezler; bu da, çok çeşitli veri merkezlerinde GPU'lardan daha hızlı bir şekilde konuşlandırılabilecekleri anlamına gelir.

General Compute, yeni çiplerin GPU tabanlı bulutlardan 16 kat daha hızlı çıkarım sağlayacağını söylüyor. Zorluk, özellikle yepyeni bir şirket olduğunuzda, bu çiplerin çoğunu elde etmektir. Upper90 kurucu ortağı ve eski bir Goldman Sachs niceliksel tüccarı olan CEO Billy Libby'nin bunun için bir taktik kitabı vardı: 2021'de firması, enerji odaklı veri merkezi girişimi Crusoe'nun gelişmiş çiplerin değerine karşı ilk kredi olduğuna inandığı GPU satın alımlarını finanse etti. Geleneksel borç verenler, GPU'nun değer kaybıyla ilgili riskler ve belirsizlikler nedeniyle o zamanlar bu tür anlaşmalardan kaçınıyordu. Ancak CoreWeave çip destekli kredileri bir iş modeline ve ardından gişe rekorları kıran bir halka arzın temelini oluşturduğundan, bu tür finansman yaygın hale geldi. Libby, TechCrunch'a bunu yapan ilk grup olarak Nvidia GPU'yu finanse ettiğimizde pazarın verimsiz olduğunu söyledi. Erken bir katılımcı olarak gerçekten bir şeyler hazırlayabilirdik ve bir nevi riskin karşılığını alabilirdik. Artık GPU'lar nispeten iyi anlaşıldığı ve belki de aşırı satın alındığı için Upper90, AI patlamasının bir sonraki dalgasını desteklemek için General Compute gibi şirketlere yöneliyor. Libby, Açık kaynak modellerinin önemli olacağını düşünüyoruz ve geçen yıl gidip çıkarımda bulunacak bir oyuncu aradık, dedi.