Phân tích kỹ thuật chuyên sâu
GLM-5.2 trên GPU AMD: Giải 5 trong 6 bài IMO 2026
Cách OneNexus dùng GLM-5.2 trên AMD MI355X để đạt 37/42 trong đánh giá nội bộ có ghi chép của chúng tôi trên các bài IMO 2026 — không phải kết quả IMO chính thức.
Tất cả bài viết GLM-5.2 AMD Inference IMO
Ba lớp kỹ thuật hội tụ: các bản vá GPU ở cấp kernel, một proxy chuẩn hoá giao thức, và một pipeline giải toán sáu vai trò được xây dựng cho suy luận toán học dài hạn.
Kỳ thi Olympic Toán học Quốc tế (IMO) là một bài kiểm chuẩn gồm sáu bài toán về sự sáng tạo và chặt chẽ trong toán học. Vào tháng 7 năm 2026, OneNexus — thuộc One Mount Group — đã đánh giá liệu GLM-5.2 có thể duy trì mức suy luận này khi triển khai trên phần cứng AMD MI355X hay không.
Kết quả cuối cùng: năm bài đạt điểm tuyệt đối (7/7); P3 không được giải, lần thử trực tiếp đạt 2/7. Tổng điểm: 37/42 theo quy trình chấm điểm nội bộ được ghi lại của chúng tôi — một đánh giá nội bộ, không phải kết quả IMO chính thức.
Phục vụ mô hình trên GPU AMD
GLM-5.2-FP8 được phục vụ qua SGLang trên MI355X, cùng một bản vá số học kernel quan trọng đóng góp ngược lên ROCm.
Lớp Harness & Proxy
Nexus Composer: chuyển đổi giao thức, chuẩn hoá luồng suy luận và quản lý vòng đời nhà cung cấp cho Codex và Claude Desktop.
Quy trình giải toán IMO
Một thuật toán giải sáu vai trò với sự cô lập nghiêm ngặt, hiệu chỉnh lặp và tiêu chí chấp nhận năm lần vượt liên tiếp — được điều phối qua các trợ lý lập trình desktop.
01Phục vụ mô hình trên GPU AMD
Chạy GLM-5.2-FP8 trên MI355X đòi hỏi nhiều hơn là chỉ khởi chạy suy luận. Một lỗi số học âm thầm trong đường dẫn kernel bên dưới phải được phát hiện và sửa.
Triển khai GLM-5.2 và FP8
GLM-5.2 là một mô hình MoE thưa với hành vi DeepSeek Sparse Attention và đặc tính suy luận ngữ cảnh dài. Biến thể được triển khai là zai-org/GLM-5.2-FP8, được cấu hình với tensor-parallel kích thước 8 trên một node MI355X duy nhất.
FP8 giảm đáng kể chi phí bộ nhớ so với BF16, cho phép triển khai một node thực tế cho các phiên suy luận dài liên tục.
Cấu hình khởi chạy SGLang (MI355X, FP8)
--dsa-prefill-backend tilelang--dsa-decode-backend tilelang--chunked-prefill-size 131072--watchdog-timeout 1200--reasoning-parser glm45--tool-call-parser glm47--attn-cp-size 8 --enable-prefill-cp --cp-strategy interleave--enable-dsa-cache-layer-splitLỗi độ chính xác Block-FP8 trên gfx950
Trên MI350X/MI355X (gfx950, ROCm 7.2), nhóm đã quan sát thấy một lỗi tính đúng đắn âm thầm: các prompt ngắn có vẻ ổn, nhưng suy luận phức hợp suy giảm nghiêm trọng. Sự tích lũy sai số theo từng lớp qua 78 lớp khiến các tác vụ toán học mất ổn định.
Nguyên nhân gốc rễ được truy về hành vi FMA kiểu không hợp lệ trong gemm_a8w8_blockscale_bpreshuffle đường dẫn sau khi một pass coercion của LLVM bị loại bỏ trong ROCm 7.2.
Bản vá thượng nguồn: ROCm PR #8639
Bản vá thay thế phép tích lũy kiểu không hợp lệ đóng gói bằng cập nhật bộ tích lũy vô hướng, thêm một mốc xác định, và đưa vào các kiểm tra theo byte và theo hàng chặt chẽ hơn. Việc kiểm định sau vá đã khôi phục hành vi GSM8K như kỳ vọng và sự ổn định truy hồi ngữ cảnh dài với ảnh hưởng hiệu năng không đáng kể.
Bản vá SGLang bổ sung: PR #29275
Vấn đề thứ hai là sự không khớp hợp đồng bố cục scale trong các đường dẫn bpreshuffle. Các thay đổi materialization của SGLang đảm bảo các giá trị scale logic được biến đổi đúng thành bố cục vật lý tại các ranh giới tiêu thụ.
| Cấu hình | GSM8K (200Q, 5-shot) |
|---|---|
| Chỉ bản vá CK (không materialization scale) | 0/82 (aborted) |
| Bản vá CK + materialization scale | 192/200 (0.96) |
| Phương án dự phòng tắt bpreshuffle | 184/200 (0.92) |
02Nâng cấp lớp harness
Bối cảnh lịch sử
Đánh giá tháng 7 năm 2026 này chạy Codex và Claude Desktop qua Nexus Composer.
GLM-5.2 cần một cầu nối giao thức bền bỉ để chạy ổn định phía sau Codex và Claude Desktop trong các phiên giải kéo dài nhiều giờ.
Nexus Composer trong vai trò control plane
Nhóm đã xây dựng Nexus Composer (fork từ CC Switch, hiện thực bằng Tauri) để kết nối: Anthropic Messages, OpenAI Responses và OpenAI Chat Completions. Nó xử lý:
- Chuyển đổi giao thức — dịch hai chiều giữa các giao diện Anthropic và OpenAI cho các agent desktop.
- Chuyển đổi nhà cung cấp — chuyển nhanh giữa các endpoint GLM tùy biến và các nhà cung cấp chính thức.
- Telemetry vận hành — thời lượng, mức dùng token, độ trễ, chi phí và ID tương quan yêu cầu.
- Quản lý cấu hình — quản lý các tệp cấu hình và xác thực cục bộ của Claude và Codex từ một bảng điều khiển duy nhất.
Chuẩn hoá luồng suy luận
Phần khó nhất là chuẩn hoá các luồng suy luận dài của GLM-5.2. Proxy phải xử lý đúng các chunk chỉ chứa suy luận, các delta không định kiểu kiểu cũ, và phần đuôi rỗng theo sau các chunk kết thúc. Thiếu điều này, các phiên sẽ treo dưới tải chạy dài.
Sau ba ngày lặp đi lặp lại, logic hoàn tất luồng và đệm đã được củng cố đủ để giữ các phiên suy luận kéo dài hàng giờ ổn định trên cả hai client desktop.
03Quy trình giải toán IMO
Các ứng dụng desktop chỉ đóng vai trò điều phối. Một tiến trình Python nền thực hiện các lệnh gọi API mô hình trực tiếp để vượt qua giới hạn token đầu ra của desktop.
Mẫu điều phối + gọi API trực tiếp
Lớp desktop khởi chạy và giám sát một tiến trình Python bền bỉ. Tiến trình gọi trực tiếp GLM-5.2 với trần token cao (max_tokens=256000) và ngân sách suy luận lớn, tránh các giới hạn phản hồi của SDK.
Mỗi bài toán chạy trong sự cô lập nghiêm ngặt, không truy cập các lần chạy trước, không tra cứu internet và không có tài liệu toán học bên ngoài.
Thuật toán sáu vai trò
Giải
Một lượt giải duy nhất với hướng dẫn định dạng chứng minh nghiêm ngặt (tóm tắt + chứng minh chi tiết).
Tự cải thiện
Lượt thứ hai trong ngữ cảnh để siết chặt tính chặt chẽ và vá các lỗ hổng suy luận cục bộ.
Kiểm chứng
Một bộ kiểm chứng không trạng thái mới chấm ứng viên, phân loại lỗi là nghiêm trọng hay lỗ hổng.
Phân loại
Phán quyết độc lập có/không. Chỉ một “yes” độc lập mới được xem là đạt.
Sửa
Lệnh gọi sửa không trạng thái chỉ dựa trên bài toán, ứng viên và báo cáo của bộ kiểm chứng.
Kiểm chứng lại
Lặp lại kiểm chứng/phân loại cho đến khi đạt tiêu chí chấp nhận.
Tiêu chí chấp nhận
Năm lần “yes” phân loại độc lập liên tiếp cho cùng một ứng viên không đổi. Giới hạn chạy: 30 vòng lặp sửa mỗi lần chạy ngoài, 10 lỗi liên tiếp, 10 lần chạy ngoài.
Tính toàn vẹn và nguồn gốc
Ngữ cảnh của bộ kiểm chứng và bộ phân loại được giữ cô lập khỏi kết quả mục tiêu. Bộ điều phối không chèn gợi ý toán học. Các artifact được tính checksum (SHA-256), và bản ghi P6 được kiểm tra hoạt động internet với không có sự kiện truy cập web nào.
04Kết quả
Năm trong sáu bài được giải với điểm tuyệt đối. P3 chỉ được giải một phần (2/7) mà không có chứng minh chặt chẽ hoàn chỉnh.
| Bài toán | Lĩnh vực | Điểm | Harness | Kết quả chính |
|---|---|---|---|---|
| P1 | Lý thuyết số | 7/7 | Codex Desktop | Kết thúc theo monovariant + tính duy nhất bất biến qua cấu trúc định giá p-adic. |
| P2 | Hình học | 7/7 | Codex Desktop | Chứng minh tọa độ với các nhân chứng đa thức tường minh và kiểm tra đồng nhất thức ký hiệu. |
| P3 | Tổ hợp | 2/7 | Endpoint trực tiếp | Đã xác định đúng công thức; không có chứng minh hoàn chỉnh theo cả hai chiều. |
| P4 | Lý thuyết trò chơi | 7/7 | Claude Desktop | Đặc trưng hoá đầy đủ các góc thắng và chiều đảo của chiến lược. |
| P5 | Phương trình hàm | 7/7 | Endpoint trực tiếp | Phân loại về họ affine qua phép biến đổi và lập luận tính liên thông. |
| P6 | Dãy số | 7/7 | Endpoint trực tiếp | Lập luận phần tử cực tiểu hữu hạn dẫn đến tính tuần hoàn với dịch chuyển tuyến tính. |
| Tổng | 37/42 | 5 trong 6 bài đạt điểm tuyệt đối | ||
Diễn biến chạy đáng chú ý
P2 cần chín lần chạy ngoài và khoảng 90M token trước khi được chấp nhận. Các lỗi ban đầu gồm ngắt kết nối luồng và tình trạng tràn đầu ra. P6 hoàn thành trong một lần chạy ngoài duy nhất với khoảng 48 phút suy luận và ~107K token đầu ra.
Điểm nổi bật từng bài
P1 — Lý thuyết số (7/7, gọn gàng)
Lần chạy đầu gọn gàng, không cần sửa, với lập luận monovariant/bất biến được chấp nhận ngay lập tức.
P2 — Hình học (7/7, sau nỗ lực gian nan)
Trường hợp khó nhất: chín lần chạy ngoài và các chu kỳ sửa kéo dài. Chứng minh được chấp nhận bao gồm các đồng nhất thức nhân chứng ký hiệu tường minh.
P3 — Tổ hợp (2/7, chưa giải được)
Đã tìm được dạng đóng đúng nhưng không có chứng minh chặt chẽ đầy đủ, nên bài toán vẫn chưa được giải trong lần chạy mô hình này.
P4 — Lý thuyết trò chơi (7/7, sau khi sửa prompt)
Việc siết kỷ luật prompt đã ngăn tràn đầu ra và tạo ra một chứng minh cuối cùng ngắn gọn được chấp nhận.
P5 — Phương trình hàm (7/7, API trực tiếp)
Đường dẫn API trực tiếp đã vượt qua các giới hạn đầu ra của desktop. Một chu kỳ sửa là đủ để đạt chấp nhận cuối cùng.
P6 — Dãy số (7/7, kiểm chứng đóng sách)
Lần chạy đóng sách, không có sự kiện truy cập internet, được chấp nhận ngay lần chạy ngoài đầu tiên với lập luận tính tuần hoàn dựa trên các phần tử cực tiểu hữu hạn.
Phương pháp chấm điểm
Việc chấm điểm được thực hiện độc lập theo tiêu chuẩn IMO (0-7 mỗi bài), với đánh giá đối kháng, kiểm toán bởi agent cha, và kiểm tra tính toàn vẹn artifact bằng SHA-256 để tách bạch việc chấp nhận quy trình khỏi việc chấm điểm toán học.
05Điều này có ý nghĩa gì
Kết quả này không chỉ là thành quả về chất lượng mô hình. Đó là một thành quả hệ thống trải trên ba lớp: tính đúng đắn số học, độ tin cậy truyền tải, và tính chặt chẽ của quy trình.
Không có các bản vá cấp kernel, chất lượng suy luận chuỗi dài sụp đổ. Không có chuẩn hoá luồng, các phiên thất bại dưới áp lực thời lượng. Không có kỷ luật kiểm chứng, các chứng minh không thể tin cậy.
P3 vẫn là trường hợp ranh giới: mô hình đã tìm ra một biểu thức cuối hợp lý nhưng không tạo ra chứng minh đầy đủ cần thiết cho mức chấp nhận chuẩn IMO. Ranh giới đó chính là nơi năng lực và công việc kỹ thuật trong tương lai nên tập trung.
Tham khảo
SGLang Cookbook, ROCm PR #8639, SGLang PR #29275, Nexus Composer.