CPU'nun Geri Dönüşü Başımızda
Özgün başlık: The CPU Comeback Is Upon Us
Bu yılın başında Amazon Web Services'in liderleri mühendislerine yeni bir görev verdi: Her ne pahasına olursa olsun CPU döngülerini korumaları gerekiyor. AI iş yüklerinin şirketin bulut altyapısını zorlaması nedeniyle AWS'nin CPU sunucu kapasitesinde bekleme sürelerinde bir patlama yaşadığı bildirildi. Görünüşe göre bu sorun AWS'yi hazırlıksız yakaladı ve bunun iyi bir nedeni var. Yapay zeka patlaması GPU'lara ve daha sonra belleğe olan talebin artmasına neden oldu. CPU'lar çoğunlukla hikayenin dışında bırakıldı, çünkü göreceli paralelleştirme eksikliği, onları AI modeli çıkarımı, yani büyük dil modellerini (LLM) çalıştırma ve kullanıcılara sunma süreci için yetersiz bir uyum haline getirdi. Ancak yapay zeka modellerinin özerk bir şekilde çalışmasına ve alt aracılara çağrı yapmasına olanak tanıyan aracılı yapay zeka sistemlerinin yükselişi, anlatıyı değiştiriyor.