Felo API PlatformFelo API Platform
Quay lại danh sách mô hình
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

Nemotron 3.5 Lightning là mô hình hỗn hợp chuyên gia chỉ văn bản của NVIDIA, tối ưu cho khối lượng lớn tác vụ agent chạy dài với ngữ cảnh lên tới 1 triệu token và trọng số mở.

Nemotron 3.5 Lightning là mô hình hỗn hợp chuyên gia (mixture-of-experts) chỉ xử lý văn bản do NVIDIA phát hành ngày 11 tháng 8 năm 2026, với trọng số mở theo giấy phép OpenMDW-1.1 kèm dữ liệu huấn luyện và công thức. Kiến trúc lai xen kẽ các lớp Mamba-2 với lớp MoE và một số lớp attention, tổng cộng 30 tỷ tham số với khoảng 3 tỷ tham số hoạt động mỗi token. Mô hình được chưng cất từ Nemotron 3 Ultra và tích hợp giải mã suy đoán DFlash để giảm độ trễ mỗi token. Ngữ cảnh hỗ trợ lên tới 1 triệu token.

Mô hình được huấn luyện cho việc sử dụng công cụ agent trên các khung phổ biến như OpenClaw và Hermes Agent, hướng tới tầng thực thi của các tác vụ agent chạy dài. So với các mô hình mở hàng đầu cùng kích thước, mô hình cho thông lượng cao hơn tới 4 lần và hoàn thành tác vụ nhanh hơn tới 30% trên khối lượng lớn tác vụ agent; một thử nghiệm độc lập ghi nhận lợi thế thông lượng 4,9 lần và lợi thế thời gian tới token đầu tiên 4,9 lần trên ba cấu hình từ ngữ cảnh ngắn đến dài. Mô hình có thể chạy trên một GPU được hỗ trợ và có thể được huấn luyện hậu kỳ bằng NVIDIA NeMo cho công cụ, quy trình và chính sách riêng của từng lĩnh vực.

Về ứng dụng, mô hình phù hợp với agent cá nhân quản lý email, lịch, dự án và đặt chỗ; trích xuất dữ liệu tài liệu, kiểm tra quy tắc chính sách, giám sát tín hiệu rủi ro và tóm tắt có cấu trúc trong dịch vụ tài chính; làm giàu cảnh báo, phân loại sự cố, truy vấn log và chuẩn bị phát hiện trong vận hành an ninh mạng; phân loại cảnh báo mạng viễn thông, tối ưu cấu hình mạng và trả lời câu hỏi về hóa đơn; làm giàu danh mục sản phẩm, xử lý ngoại lệ tồn kho và giao hàng, cùng trả lời câu hỏi về đơn hàng, trả hàng và khách hàng thân thiết trong bán lẻ. Ngoài ra, mô hình còn phục vụ trợ lý lập trình đánh giá pull request hoặc tạo bản sửa lỗi, và agent hỗ trợ khách hàng xử lý yêu cầu thường ngày. Hạn chế duy nhất được ghi nhận là mô hình chỉ xử lý văn bản.

Cập nhật:

ID MÔ HÌNH

nemotron-3.5-lightning:free
Ngữ cảnh
1M
Đầu ra tối đa
65.536K
API đề xuất
messages
Đầu vào
text
Đầu ra
text

Điểm nổi bật

  • Ngữ cảnh lên tới 1 triệu token
  • 30 tỷ tham số, khoảng 3 tỷ hoạt động mỗi token
  • Kiến trúc lai Mamba-2, MoE và attention
  • Giải mã suy đoán DFlash giảm độ trễ
  • Trọng số mở theo giấy phép OpenMDW-1.1
  • Chạy trên một GPU được hỗ trợ

Nhà cung cấp

1 nhà cung cấp

So sánh giá API giữa các nhà cung cấp. Chọn một nhà cung cấp để xem toàn bộ chi phí và điều kiện.

Nhà cung cấp · Chi tiết giá
Tỷ lệ khả dụng
$0$0

Điểm chuẩn

  • Tỷ lệ không ảo giác AA-Omniscience

    Theo Artificial Analysis

    64.3%
  • Mẫu lặp lại bị loại bỏ

    Tỷ lệ phần trăm trong thử nghiệm thích ứng lĩnh vực

    66.4%
  • Độ phong phú từ vựng

    Tỷ lệ phần trăm so với đường cơ sở trong thử nghiệm thích ứng lĩnh vực

    98.4%
  • Độ chính xác kiểm định tinh chỉnh thị giác

    Trước khi tinh chỉnh, theo nghiên cứu điển hình của công ty

    20%
  • Độ chính xác kiểm định tinh chỉnh thị giác

    Sau khi tinh chỉnh, theo nghiên cứu điển hình của công ty

    58%

Điểm số theo công bố của nhà cung cấp mô hình.

Suy luận

Luôn bật
Không

Bắt đầu nhanh

Mã dùng ngay để gọi mô hình này bằng các API tương thích của Felo API Platform. Bắt đầu trong Playground khi bạn muốn thử prompt trước khi viết mã.

1

Thiết lập khóa API

Tạo khóa trong tài khoản Felo API Platform của bạn và đặt làm biến môi trường.

export FELO_API_KEY="YOUR_API_KEY"
2

Gửi yêu cầu đầu tiên

Dùng ID mô hình này với endpoint Felo API Platform. Các header tùy chọn như X-Request-Id có thể giúp khắc phục sự cố.

nemotron-3.5-lightning:free

Mô hình này có khả năng suy luận. Nếu giao thức và route mô hình bạn chọn có hỗ trợ điều khiển suy luận, hãy giữ nguyên siêu dữ liệu suy luận được trả về khi tiếp tục hội thoại.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Dùng SDK bên thứ ba

Trong các SDK tương thích, đặt baseURL thành https://openapi.felo.ai/api/v1. Với các client kiểu Claude, dùng base URL tương thích Anthropic. https://openapi.felo.ai/api.

3

Bật streaming

Thêm stream: true để nhận phản hồi dưới dạng server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform cung cấp các giao diện gọi mô hình tương thích. Chọn giao diện mà ứng dụng hoặc client agent của bạn đã hỗ trợ.

Giao diệnPhương thứcURL

Messages

Tin nhắn tương thích Anthropic cho client kiểu Claude.

POST

https://openapi.felo.ai/api/v1/messages

Tham số

TênKiểuMặc địnhMô tả
modelstringnemotron-3.5-lightning:freeID mô hình công khai cần gọi.
max_tokensinteger—Số token tối đa được tạo.
messagesarray—Tin nhắn hội thoại cho Chat Completions.
seed———
toolsarray—Định nghĩa tool calling theo schema tương thích.
top_p———
reasoning———
temperaturenumber—Điều chỉnh độ đa dạng của phản hồi khi được hỗ trợ.
tool_choicestring or object—Điều chỉnh việc có nên gọi một công cụ hay không.
include_reasoning———

Câu hỏi thường gặp

Tìm hiểu Nemotron 3.5 Lightning (free)?

Nemotron 3.5 Lightning là mô hình hỗn hợp chuyên gia (mixture-of-experts) chỉ xử lý văn bản do NVIDIA phát hành ngày 11 tháng 8 năm 2026, với trọng số mở theo giấy phép OpenMDW-1.1 kèm dữ liệu huấn luyện và công thức. Kiến trúc lai xen kẽ các lớp Mamba-2 với lớp MoE và một số lớp attention, tổng cộng 30 tỷ tham số với khoảng 3 tỷ tham số hoạt động mỗi token. Mô hình được chưng cất từ Nemotron 3 Ultra và tích hợp giải mã suy đoán DFlash để giảm độ trễ mỗi token. Ngữ cảnh hỗ trợ lên tới 1 triệu token. Mô hình được huấn luyện cho việc sử dụng công cụ agent trên các khung phổ biến như OpenClaw và Hermes Agent, hướng tới tầng thực thi của các tác vụ agent chạy dài. So với các mô hình mở hàng đầu cùng kích thước, mô hình cho thông lượng cao hơn tới 4 lần và hoàn thành tác vụ nhanh hơn tới 30% trên khối lượng lớn tác vụ agent; một thử nghiệm độc lập ghi nhận lợi thế thông lượng 4,9 lần và lợi thế thời gian tới token đầu tiên 4,9 lần trên ba cấu hình từ ngữ cảnh ngắn đến dài. Mô hình có thể chạy trên một GPU được hỗ trợ và có thể được huấn luyện hậu kỳ bằng NVIDIA NeMo cho công cụ, quy trình và chính sách riêng của từng lĩnh vực. Về ứng dụng, mô hình phù hợp với agent cá nhân quản lý email, lịch, dự án và đặt chỗ; trích xuất dữ liệu tài liệu, kiểm tra quy tắc chính sách, giám sát tín hiệu rủi ro và tóm tắt có cấu trúc trong dịch vụ tài chính; làm giàu cảnh báo, phân loại sự cố, truy vấn log và chuẩn bị phát hiện trong vận hành an ninh mạng; phân loại cảnh báo mạng viễn thông, tối ưu cấu hình mạng và trả lời câu hỏi về hóa đơn; làm giàu danh mục sản phẩm, xử lý ngoại lệ tồn kho và giao hàng, cùng trả lời câu hỏi về đơn hàng, trả hàng và khách hàng thân thiết trong bán lẻ. Ngoài ra, mô hình còn phục vụ trợ lý lập trình đánh giá pull request hoặc tạo bản sửa lỗi, và agent hỗ trợ khách hàng xử lý yêu cầu thường ngày. Hạn chế duy nhất được ghi nhận là mô hình chỉ xử lý văn bản.

Cách tính phí sử dụng?

Hóa đơn của bạn phụ thuộc vào nhà cung cấp bạn dùng, giá của họ và mức sử dụng của bạn. Đầu vào dài hơn hoặc các điều kiện khác có thể có giá khác.

Mô hình hỗ trợ những loại đầu vào nào?

Nemotron 3.5 Lightning chỉ hỗ trợ đầu vào văn bản và đầu ra văn bản. Đây là mô hình chỉ văn bản, không xử lý hình ảnh hay âm thanh.

Ngữ cảnh tối đa của mô hình là bao nhiêu?

Mô hình hỗ trợ ngữ cảnh lên tới 1 triệu token. Tài liệu không nêu giới hạn độ dài đầu ra.

Mô hình phù hợp với những tác vụ nào?

Mô hình được thiết kế cho tầng thực thi của các tác vụ agent chạy dài và khối lượng lớn, bao gồm sử dụng công cụ, trích xuất dữ liệu tài liệu, phân loại sự cố, xử lý cảnh báo mạng và hỗ trợ khách hàng.

Nemotron 3.5 Lightning khác gì so với Nemotron 3 Ultra?

Nemotron 3.5 Lightning được chưng cất từ Nemotron 3 Ultra và là mô hình hỗn hợp chuyên gia chỉ văn bản với 30 tỷ tham số, khoảng 3 tỷ tham số hoạt động mỗi token. Mô hình được định vị là động cơ thực thi chuyên biệt cho khối lượng lớn trong cách tiếp cận hệ thống đa mô hình.

Mô hình có thể tùy chỉnh cho lĩnh vực riêng không?

Có, mô hình có thể được huấn luyện hậu kỳ bằng NVIDIA NeMo cho công cụ, quy trình và chính sách riêng của từng lĩnh vực. Sau khi huấn luyện hậu kỳ, tổ chức vẫn giữ quyền kiểm soát trọng số.

Mô hình chạy trên phần cứng nào?

Mô hình chạy trên một GPU được hỗ trợ. Trọng số có thể tải xuống theo giấy phép OpenMDW-1.1.

Mô hình liên quan