GLM-5.2 trên GPU AMD: Giải 5 trong 6 bài IMO 2026

Ba tầng kỹ thuật cùng hội tụ: các bản vá GPU ở cấp độ kernel, một local proxy chuẩn hóa giao thức, và một pipeline giải toán gồm 6 vai trò được thiết kế chuyên biệt cho suy luận toán học chuỗi dài.

Kỳ thi Olympic Toán học Quốc tế (IMO) là thước đo tiêu chuẩn gồm 6 bài toán đòi hỏi sự sáng tạo và tính chặt chẽ học thuật cao độ. Vào tháng 7 năm 2026, OneNexus — thuộc One Mount Group — đã tiến hành thử nghiệm nhằm đánh giá liệu mô hình GLM-5.2 có thể duy trì năng lực suy luận chuyên sâu này khi vận hành trên hạ tầng phần cứng AMD MI355X hay không.

Kết quả cuối cùng: 5 bài toán đạt điểm tuyệt đối (7/7); bài P3 chưa giải trọn vẹn, lần thử trực tiếp đạt điểm một phần 2/7. Tổng điểm đạt được: 37/42 theo quy trình chấm điểm nội bộ được ghi chép đầy đủ của chúng tôi — đây là đánh giá nội bộ, không phải kết quả thi IMO chính thức.

01Serving mô hình trên GPU AMD

Việc vận hành GLM-5.2-FP8 trên MI355X đòi hỏi nhiều hơn là việc chỉ khởi chạy một tiến trình suy luận. Đội ngũ kỹ sư đã phải truy vết và khắc phục triệt để một lỗi sai lệch số học âm thầm trong kernel bên dưới.

Triển khai GLM-5.2 và FP8

GLM-5.2 là một mô hình MoE (Mixture of Experts) thưa với cơ chế DeepSeek Sparse Attention và khả năng suy luận ngữ cảnh dài vượt trội. Biến thể được đưa vào triển khai là zai-org/GLM-5.2-FP8, cấu hình tensor-parallel kích thước 8 trên một node MI355X duy nhất.

Định dạng FP8 giúp giảm đáng kể dung lượng bộ nhớ so với BF16, cho phép triển khai khả thi trên một node duy nhất để phục vụ các phiên suy luận dài liên tục.

--dsa-prefill-backend tilelang
--dsa-decode-backend tilelang
--chunked-prefill-size 131072
--watchdog-timeout 1200
--reasoning-parser glm45
--tool-call-parser glm47
--attn-cp-size 8 --enable-prefill-cp --cp-strategy interleave
--enable-dsa-cache-layer-split

Lỗi độ chính xác Block-FP8 trên kiến trúc gfx950

Trên các dòng chip MI350X/MI355X (kiến trúc gfx950, ROCm 7.2), nhóm kỹ thuật ghi nhận một lỗi sai lệch âm thầm về tính đúng đắn: các prompt ngắn vẫn cho kết quả có vẻ ổn, nhưng khi suy luận chuỗi phức hợp, chất lượng giảm sút nghiêm trọng. Sai số tích lũy qua 78 layer khiến các bước giải toán bị mất ổn định.

Nguyên nhân gốc rễ bắt nguồn từ hành vi FMA (fused multiply-add) trên kiểu dữ liệu không hợp lệ trong nhánh xử lý gemm_a8w8_blockscale_bpreshuffle, xuất hiện sau khi một pass coercion của LLVM bị loại bỏ trong ROCm 7.2.

02Nâng cấp tầng kiểm thử & harness

GLM-5.2 cần một cầu nối giao thức thực sự bền bỉ để vận hành ổn định phía sau Codex và Claude Desktop trong các phiên giải toán kéo dài hàng giờ liền.

Nexus Composer đóng vai trò control plane

Nhóm đã phát triển Nexus Composer (fork từ CC Switch, xây dựng bằng Tauri) làm cầu nối tương thích giữa: Anthropic Messages, OpenAI Responses và OpenAI Chat Completions. Ứng dụng đảm nhận:

• Chuyển đổi giao thức — dịch hai chiều mượt mà giữa các chuẩn API của Anthropic và OpenAI cho các desktop coding agent.
• Chuyển đổi provider — chuyển đổi linh hoạt giữa các custom endpoint của GLM và các provider chính thức.
• Telemetry vận hành — theo dõi thời gian thực thi, lượng token tiêu thụ, độ trễ, chi phí và trace ID tương quan của từng request.
• Quản lý cấu hình — quản lý tập trung toàn bộ file cấu hình và token xác thực cục bộ của Claude và Codex ngay trên một giao diện thống nhất.

Chuẩn hoá luồng streaming suy luận

Khâu thử thách nhất là chuẩn hoá các luồng suy luận dài của GLM-5.2. Local proxy phải phân tách và xử lý chính xác các chunk chỉ chứa phần suy luận (reasoning-only chunks), các trường delta không định kiểu theo chuẩn cũ, và cả phần đuôi rỗng (empty trailing payload) xuất hiện sau chunk kết thúc. Nếu không xử lý chuẩn, các phiên làm việc kéo dài sẽ bị treo khi tải nặng.

Sau ba ngày liên tục tinh chỉnh và thử nghiệm, logic hoàn tất luồng và cơ chế đệm (buffering) đã được hoàn thiện đủ vững chắc để giữ cho các phiên suy luận kéo dài nhiều giờ luôn hoạt động ổn định trên cả hai desktop client.

03Quy trình giải toán IMO

Các ứng dụng desktop chỉ đóng vai trò điều phối tổng thể. Một tiến trình Python chạy nền đảm nhận việc gọi trực tiếp API của mô hình nhằm vượt qua giới hạn token đầu ra của các ứng dụng desktop.

Mô hình điều phối kết hợp gọi API trực tiếp

Tầng desktop khởi chạy và giám sát tiến trình Python độc lập. Tiến trình này gọi trực tiếp GLM-5.2 với giới hạn token tối đa được nâng cao (max_tokens=256000) cùng ngân sách suy luận dồi dào, thoát khỏi những hạn chế về độ dài phản hồi thông thường của SDK.

Mỗi bài toán được giải quyết trong môi trường cách ly nghiêm ngặt: không truy cập vào lịch sử các lần chạy trước, không tra cứu internet và không sử dụng bất kỳ tài liệu tham khảo bên ngoài nào.

Pipeline giải toán 6 vai trò

Tính toàn vẹn và nguồn gốc dữ liệu

Ngữ cảnh làm việc của bộ kiểm chứng và bộ phân loại được cách ly tuyệt đối khỏi kết quả mục tiêu. Bộ điều phối không đưa vào bất kỳ gợi ý toán học nào. Toàn bộ artifact đều được tính mã băm xác thực (SHA-256), và nhật ký thực thi bài P6 được rà soát lưu lượng mạng để đảm bảo 100% không phát sinh bất kỳ yêu cầu truy cập internet nào.

04Kết quả đánh giá

Năm trong số 6 bài toán được giải trọn vẹn với điểm số tối đa. Riêng bài P3 được giải một phần (đạt 2/7 điểm) nhưng chưa hoàn thành được phần chứng minh chặt chẽ trọn vẹn.

Điểm nổi bật từng bài

05Ý nghĩa của kết quả này

Thành công này không chỉ đơn thuần phản ánh năng lực của mô hình nền tảng. Đó là kết quả tổng hòa từ ba tầng kỹ thuật: độ chuẩn xác trong tính toán số học phần cứng, độ tin cậy của tầng truyền dẫn giao thức, và tính kỷ luật nghiêm ngặt trong quy trình suy luận.

Nếu thiếu các bản vá ở cấp độ kernel GPU, chất lượng suy luận chuỗi dài sẽ sụp đổ hoàn toàn. Nếu không có cơ chế chuẩn hóa luồng streaming, các phiên làm việc kéo dài hàng giờ sẽ bị gián đoạn. Và nếu thiếu kỷ luật kiểm chứng đa tầng, các bản chứng minh sẽ không thể đảm bảo độ tin cậy.

Bài toán P3 vẫn là một minh chứng thực tế: mô hình đã tìm ra kết quả cuối cùng hợp lý nhưng chưa thể tự xây dựng được toàn bộ lập luận chặt chẽ theo tiêu chuẩn khắt khe của IMO. Ranh giới đó chính là điểm tựa để tiếp tục đào sâu nghiên cứu và hoàn thiện năng lực kỹ thuật trong tương lai.