Bỏ qua để đến nội dung

Bắt đầu nhanh

Hướng dẫn này giúp bạn nhanh chóng gửi thành công request đầu tiên tới Platform model trên OneNexus. Vì OneNexus trực tiếp vận hành model và catalog endpoint, bạn không cần GPU quota cho luồng này.

Trước khi bắt đầu

Mục “Trước khi bắt đầu”

Bạn cần chuẩn bị:

Gửi request đầu tiên

Mục “Gửi request đầu tiên”

  1. Chọn một Platform model.

    Trong Console, mở Suy luận (Inference) → Mô hình nền tảng (Platform Models) rồi mở rộng dòng của model bạn muốn dùng. Sao chép hai giá trị sau:

    • Điểm cuối (Endpoint) dùng chung, hiển thị ngay phía trên catalog; và
    • Giá trị model chính xác trong khối Lệnh gọi cURL (cURL request) của dòng đó.

    Lưu ý: Hãy dùng giá trị model trong lệnh cURL mẫu do Console tạo, không dùng giá trị trong cột ID mô hình công khai (Public model ID). Cột đó chỉ là định danh catalog và tính cước (billing identity); còn serving router định tuyến request theo đúng chuỗi model trong lệnh cURL.

    Nếu dòng hiển thị cảnh báo màu vàng cho biết policy layer chưa xác nhận listing này, hãy đợi cảnh báo biến mất hoặc chọn model khác — một listing vừa phát hành có thể mất khoảng một phút để sẵn sàng nhận request.

    Trang Platform Models. Endpoint dùng chung nằm phía trên bảng; một dòng đang mở, hiển thị model capabilities và một cURL request có body đặt model bằng public model id.

    Endpoint phía trên bảng, và giá trị model trong cURL của dòng đã mở — hãy dùng hai giá trị đó, không dùng cột Public model ID.

  2. Tạo Platform API key.

    Mở Suy luận → Khóa API (API Keys) → Tạo khóa API (Generate API key). Chọn thời hạn hiệu lực, sau đó đặt Loại (Type) thành Nền tảng (Platform).

    Sao chép secret trong hộp thoại thông báo thành công; Console chỉ hiển thị secret này một lần duy nhất.

    Dialog Generate API key với Type là Platform. Không có danh sách model nào; một ghi chú giải thích key này gọi được mọi platform model đã phát hành, kể cả model thêm sau.

    Với Platform key, hộp thoại không có danh sách chọn model — key này gọi được toàn bộ catalog và không thể thu hẹp phạm vi.

  3. Thiết lập các giá trị kết nối.

    Thay <model-value-from-curl> bằng giá trị model đã sao chép ở bước 1. URL bên dưới là địa chỉ catalog thông thường; nếu Console hiển thị endpoint khác, hãy sử dụng giá trị từ Console.

    Bash hoặc zsh

    Terminal
    export ONX_BASE_URL="https://catalog.onenexus-do.cloud/v1"
    export ONX_MODEL="<model-value-from-curl>"

    Chạy riêng lệnh nhập key bên dưới rồi dán key khi được hỏi, để secret không bị lưu vào shell history.

    Terminal
    printf "OneNexus Platform API key: "; IFS= read -rs ONX_API_KEY </dev/tty && export ONX_API_KEY && printf "\n"

    PowerShell

    PowerShell
    $env:ONX_BASE_URL = "https://catalog.onenexus-do.cloud/v1"
    $env:ONX_MODEL = "<model-value-from-curl>"
    $secret = Read-Host "OneNexus Platform API key" -AsSecureString
    $env:ONX_API_KEY = [System.Net.NetworkCredential]::new("", $secret).Password
    Remove-Variable secret

  4. Cài đặt SDK và tạo script kiểm tra.

    Cài đặt OpenAI Python SDK:

    Terminal
    python -m pip install openai

    Lưu nội dung sau thành file first_call.py:

    first_call.py
    import os
    

    from openai import OpenAI
    

    client = OpenAI(
        base_url=os.environ["ONX_BASE_URL"],
        api_key=os.environ["ONX_API_KEY"],
    )
    

    response = client.chat.completions.create(
        model=os.environ["ONX_MODEL"],
        messages=[{"role": "user", "content": "Hãy chào bằng một câu."}],
    )
    

    print("Success:", response.choices[0].message.content)

  5. Chạy request và kiểm tra response.

    Terminal
    python first_call.py

    Khi thành công, terminal sẽ in ra Success: kèm câu trả lời của model. Ví dụ:

    Success: Xin chào! Chúc bạn một ngày tốt lành.

    Nội dung chi tiết sau Success: có thể khác nhau; khi có câu trả lời cuối hoàn chỉnh, nội dung đó nằm trong response.choices[0].message.content. Nếu nhận response 2xx nhưng phần văn bản cuối trống, request của bạn vẫn đã tới được API; hãy xem toàn bộ response trước khi thử lại, vì một số model có thể chỉ trả về phần reasoning mà chưa có câu trả lời cuối.

Nếu request đầu tiên phát sinh lỗi

Mục “Nếu request đầu tiên phát sinh lỗi”
Kết quảHướng kiểm tra và xử lý
401Header Authorization chưa nhận được key hợp lệ. Hãy tạo key mới để thay thế nếu đã làm mất secret.
403Loại của key chưa phải Nền tảng (Platform), catalog endpoint chưa chính xác, request chưa dùng đúng giá trị model từ lệnh cURL mẫu, hoặc dòng của model vẫn còn hiện cảnh báo của policy layer. Không thử lại nguyên trạng khi chưa kiểm tra những điểm này.
404Đường dẫn URL chưa kết thúc bằng /v1/chat/completions. Hiện tại catalog chưa hỗ trợ endpoint GET /v1/models.
429 hoặc 503Chỉ thử lại có giới hạn, kèm exponential backoff và jitter. Liên hệ đầu mối onboarding nếu lỗi kéo dài.

Tuyệt đối không log API key hoặc lưu trực tiếp chuỗi key vào source code. Xem Tham chiếu API để biết đầy đủ đặc tả request và cách xử lý từng mã lỗi.

Bước tiếp theo

Mục “Bước tiếp theo”