AI hesaplama farkı: Şirketler, maliyetlerini ölçebildiklerinden daha hızlı altyapı satın alıyor

107 kuruluşta yapay zeka altyapı harcamaları, ekonomiyi görme veya yönlendirme becerisinin çok ötesinde hızlanıyor. Çoğu kuruluş yapay zekalarını hiper ölçekleyiciler ve model sağlayıcı API'lerinden oluşan tanıdık bir temel üzerinde çalıştırıyor; ancak bir sonraki dolar, bugün neredeyse hiçbirinin kullanmadığı özel hesaplamayı hedefliyor; çoğunluk, çoğu çeyrek içinde olmak üzere, yıl içinde sağlayıcıları değiştirmeyi veya eklemeyi planlıyor. Satın alma kararları, başlık token fiyatından ziyade entegrasyona ve toplam sahip olma maliyetine bağlıdır; bu da bir şanstır çünkü çoğu kuruluş birim ekonomisini henüz net bir şekilde görememektedir: GPU'lar yarı veya daha az kullanımdadır ve yarıdan azı, hesaplamalarının gerçekte ne kadara mal olduğunu titizlikle takip etmektedir. Sonuç, bir bilgi işlem açığıdır; ağır, hızlı hareket eden yatırım, onu kontrol etmek için gereken görünürlüğün önünde ilerler. VentureBeat Nabız Araştırması'nın bu dalgası, kurumsal yapay zeka altyapısını ve bilişimini inceliyor: kuruluşların dağıtım yolculuğunda nerede olduklarını, bugün yapay zekayı ne üzerinde çalıştırdıklarını, ne kadar memnun olduklarını, neleri değiştirmelerini sağlayacaklarını, yatırımlarını nerede değerlendirmeyi planladıklarını ve en açıklayıcı şekilde tüm bunların altında yatan bilişim ekonomisini ne kadar iyi ölçüp kontrol edebileceklerini inceliyor. Temel bulgu, bir bilgi işlem açığıdır; yani işletmelerin yapay zeka altyapısına ne kadar agresif yatırım yaptıkları ile ekonomisinin ne kadar azını görebildikleri arasındaki mesafe.

Yalnızca beşte biri (%21) üretimde yapay zekayı geniş ölçekte çalıştırıyor, ancak harcama niyetleri bu olgunluğu aşıyor: işletmelerin önümüzdeki yıl değerlendirmeyi planladığı en büyük planlı alan, yapay zekaya özel bulutlardır (%45), bu kuruluşların neredeyse hiçbirinin bugün kullanmadığı bir katmandır. Bu arada, halihazırda mevcut olan bilgi işlem soğuyor — %83'ü GPU kullanımının %50 veya daha az olduğunu bildiriyor ve yarısından azı (%44) yapay zeka bilgi işlem maliyetlerini titizlikle takip edebiliyor. İşletmeler halihazırda sahip oldukları altyapıyı hesaba katabileceklerinden daha hızlı bir şekilde daha fazla altyapı satın alıyor. Şirketler altyapı sağlayıcıları konusunda da kararsızlar: Açık bir çoğunluk (%64) on iki ay içinde bir altyapı sağlayıcısını değiştirmeyi veya eklemeyi planlıyor, %38'i ise önümüzdeki çeyrekte - bu kadar temel bir kategori için alışılmadık derecede yüksek bir müşteri kaybı niyeti. Seçtiklerinde, başlık fiyatı yerine mevcut yığın (%41) ve toplam sahip olma maliyeti (%35) ile entegrasyonu tercih ediyorlar: Milyon token başına maliyet yalnızca %8 için belirleyici faktör.