Phát hành mô hình
+18.2%
Tốc độ/người dùng vs FP8
GLM-5.3 · AMD · Inference · Quantization
GLM-5.3-Flash ở định dạng MXFP4: checkpoint nhẹ hơn, nhanh hơn cho AMD MI355X
Chúng tôi công bố checkpoint MXFP4 của GLM-5.3-Flash, được tối ưu cho AMD Instinct MI355X. So với checkpoint FP8 chính thức trên cùng bốn GPU, checkpoint này nhỏ hơn 40%, throughput đầu ra cao hơn 12.4% và tốc độ P90 trên mỗi người dùng nhanh hơn 18.2% (trung bình nhân, c1–c48).
Đọc bài viết