Yapay Zeka Yenilikçileri NVIDIA Vera'yı Benimsiyor — Büyük Ölçekte Maksimum Tek İş Parçacıklı CPU Neden Önemli?

Tarayıcınız HTML5 videoyu desteklemiyor. Bunun yerine videonun bağlantısını burada bulabilirsiniz. Maksimum tek iş parçacıklı CPU'lar, ajansal yapay zeka çağı için oluşturulmuş yeni bir CPU kategorisidir. Bir etmenli sistemin oluşturulması ve konuşlandırılması arasında CPU, muhakeme, tepki süresi ve öğrenme açısından kritik yoldadır. CPU'lar, yapay zeka modelinin komutlarını yerine getiren işlemcidir: araç çağırma, kod yürütme, veri işleme, KV önbellek ve sonuç analizi. CPU aracı ne kadar h��zlı çalıştırabilirse aracı da elindeki görevi o kadar hızlı gerçekleştirebilir. Yapay zeka fabrikası için GPU kullanımı, veri merkezindeki en değerli kaynaktır; dolayısıyla bir görevin tamamlanmasını beklemek, yapay zeka fabrikasının gelirini kısıtlar veya daha kötüsü, CPU'nun görevini tamamlamasını bekleyen GPU kullanımını etkiler. Yapay zeka fabrikalarının, yapay zeka fabrikası gelirini ve aracı performansını en üst düzeye çıkarmak için maksimum tek iş parçacıklı performansa sahip bir CPU'ya ihtiyacı vardır. Günümüzün veri merkezi CPU'ları uygun ölçekte hız için tasarlanmamıştır. Dünyada PC'ler ve iş istasyonları için hızlı CPU'lar bulunurken, veri merkezi CPU'ları tek iş parçacıklı performanstan uzaklaşan yönlerde gelişiyor. Bulutun ortaya çıkışı, CPU üreticilerini, performanstan ödün vererek maliyeti en aza indirirken daha yüksek çekirdek sayılı CPU'lar oluşturmaya itti. Kiralanabilir çekirdek başına maliyetleri optimize eden CPU'lar oluşturmak, çip başına çekirdek sayısını artırırken, yüksek performanslı bellek yapıları ve çekirdek başına daha hızlı talimat işleme gibi çekirdeklerin hızlı çalışmasını sağlayan şeylerden silikon alanını uzaklaştırdı.

Chiplet mimarilerine geçiş, maliyeti daha da düşürdü ancak her CPU çekirdeğinin artık çipin tam bellek performansına erişemediği bir "chiplet vergisi" yarattı. Yapay zeka aracılarının geniş ölçekte maksimum tek iş parçacıklı performans için tasarlanmış bir CPU'ya ihtiyacı vardır. Maksimum tek iş parçacıklı CPU, sistem tam yüklüyken her aracının hızlı adım atmasını sağlar. Her çekirdek, aracı görevini diğer çekirdekler onu yavaşlatmadan tam performansta tamamlar. Maksimum tek iş parçacıklı CPU'lar, aşağıdakileri sağlamak üzere farklı şekilde tasarlanmıştır: Her çekirdek, başka herhangi bir çekirdek onu yavaşlatmadan görevini tamamlayabilir, mükemmel verim ve daha da önemlisi mümkün olan en hızlı tek çekirdekli görev performansını sağlayabilir. Bir yapay zeka aracısı tek bir istekten sonra çalışmayı durdurmaz. Bir döngü içerisinde hareket eder. Model bir sonraki adımla ilgili mantık yürütür. CPU model etrafındaki işi yürütür. Sonuç geri geliyor.