LayerStoRm açık kaynaklı uzman akışı: Yalnızca 2× RTX 5090 + 2× RTX 5080'de (96 GB VRAM'de 186 GiB MoE) 24,5 tok/s @8k hızında 1M bağlam GLM-5.3-Flash [UD-Q4_K_XL]
Özgün başlık: LayerStoRm open-source expert streaming: 1M context GLM-5.3-Flash [UD-Q4_K_XL] at 24.5 tok/s @8k on just 2× RTX 5090 + 2× RTX 5080 (186 GiB MoE on 96 GB VRAM)
Bu gelişmenin ayrıntıları kaynağında yer alıyor.
✳ Bu özet ve çevirisi Base of AGI tarafından otomatik derlendi. Kısa özet ve görsel kaynağa aittir — haberin tamamı ve tüm haklar kaynağındadır.
Haberin tamamını kaynağında oku ↗
Akış içinde yorumlarla aç