Nemotron 3.5 Lightning (free) API
Nemotron 3.5 Lightning là mô hình hỗn hợp chuyên gia chỉ văn bản của NVIDIA, tối ưu cho khối lượng lớn tác vụ agent chạy dài với ngữ cảnh lên tới 1 triệu token và trọng số mở.
Nemotron 3.5 Lightning là mô hình hỗn hợp chuyên gia (mixture-of-experts) chỉ xử lý văn bản do NVIDIA phát hành ngày 11 tháng 8 năm 2026, với trọng số mở theo giấy phép OpenMDW-1.1 kèm dữ liệu huấn luyện và công thức. Kiến trúc lai xen kẽ các lớp Mamba-2 với lớp MoE và một số lớp attention, tổng cộng 30 tỷ tham số với khoảng 3 tỷ tham số hoạt động mỗi token. Mô hình được chưng cất từ Nemotron 3 Ultra và tích hợp giải mã suy đoán DFlash để giảm độ trễ mỗi token. Ngữ cảnh hỗ trợ lên tới 1 triệu token.
Mô hình được huấn luyện cho việc sử dụng công cụ agent trên các khung phổ biến như OpenClaw và Hermes Agent, hướng tới tầng thực thi của các tác vụ agent chạy dài. So với các mô hình mở hàng đầu cùng kích thước, mô hình cho thông lượng cao hơn tới 4 lần và hoàn thành tác vụ nhanh hơn tới 30% trên khối lượng lớn tác vụ agent; một thử nghiệm độc lập ghi nhận lợi thế thông lượng 4,9 lần và lợi thế thời gian tới token đầu tiên 4,9 lần trên ba cấu hình từ ngữ cảnh ngắn đến dài. Mô hình có thể chạy trên một GPU được hỗ trợ và có thể được huấn luyện hậu kỳ bằng NVIDIA NeMo cho công cụ, quy trình và chính sách riêng của từng lĩnh vực.
Về ứng dụng, mô hình phù hợp với agent cá nhân quản lý email, lịch, dự án và đặt chỗ; trích xuất dữ liệu tài liệu, kiểm tra quy tắc chính sách, giám sát tín hiệu rủi ro và tóm tắt có cấu trúc trong dịch vụ tài chính; làm giàu cảnh báo, phân loại sự cố, truy vấn log và chuẩn bị phát hiện trong vận hành an ninh mạng; phân loại cảnh báo mạng viễn thông, tối ưu cấu hình mạng và trả lời câu hỏi về hóa đơn; làm giàu danh mục sản phẩm, xử lý ngoại lệ tồn kho và giao hàng, cùng trả lời câu hỏi về đơn hàng, trả hàng và khách hàng thân thiết trong bán lẻ. Ngoài ra, mô hình còn phục vụ trợ lý lập trình đánh giá pull request hoặc tạo bản sửa lỗi, và agent hỗ trợ khách hàng xử lý yêu cầu thường ngày. Hạn chế duy nhất được ghi nhận là mô hình chỉ xử lý văn bản.
Cập nhật:
ID MÔ HÌNH
nemotron-3.5-lightning:free- Ngữ cảnh
- 1M
- Đầu ra tối đa
- 65.536K
- API đề xuất
- messages
- Đầu vào
- text
- Đầu ra
- text
Điểm nổi bật
- Ngữ cảnh lên tới 1 triệu token
- 30 tỷ tham số, khoảng 3 tỷ hoạt động mỗi token
- Kiến trúc lai Mamba-2, MoE và attention
- Giải mã suy đoán DFlash giảm độ trễ
- Trọng số mở theo giấy phép OpenMDW-1.1
- Chạy trên một GPU được hỗ trợ
Nhà cung cấp
So sánh giá API giữa các nhà cung cấp. Chọn một nhà cung cấp để xem toàn bộ chi phí và điều kiện.
| Tỷ lệ khả dụng | |||
|---|---|---|---|
| $0 | $0 |
Thống kê lịch sử không phải kiểm tra trạng thái trực tiếp. Thiếu dữ liệu không có nghĩa là gián đoạn.
Điểm chuẩn
- 64.3%
Tỷ lệ không ảo giác AA-Omniscience
Theo Artificial Analysis
- 66.4%
Mẫu lặp lại bị loại bỏ
Tỷ lệ phần trăm trong thử nghiệm thích ứng lĩnh vực
- 98.4%
Độ phong phú từ vựng
Tỷ lệ phần trăm so với đường cơ sở trong thử nghiệm thích ứng lĩnh vực
- 20%
Độ chính xác kiểm định tinh chỉnh thị giác
Trước khi tinh chỉnh, theo nghiên cứu điển hình của công ty
- 58%
Độ chính xác kiểm định tinh chỉnh thị giác
Sau khi tinh chỉnh, theo nghiên cứu điển hình của công ty
Điểm số theo công bố của nhà cung cấp mô hình.
Suy luận
- Luôn bật
- Không
Bắt đầu nhanh
Mã dùng ngay để gọi mô hình này bằng các API tương thích của Felo API Platform. Bắt đầu trong Playground khi bạn muốn thử prompt trước khi viết mã.
Thiết lập khóa API
Tạo khóa trong tài khoản Felo API Platform của bạn và đặt làm biến môi trường.
export FELO_API_KEY="YOUR_API_KEY"Gửi yêu cầu đầu tiên
Dùng ID mô hình này với endpoint Felo API Platform. Các header tùy chọn như X-Request-Id có thể giúp khắc phục sự cố.
nemotron-3.5-lightning:freeMô hình này có khả năng suy luận. Nếu giao thức và route mô hình bạn chọn có hỗ trợ điều khiển suy luận, hãy giữ nguyên siêu dữ liệu suy luận được trả về khi tiếp tục hội thoại.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Dùng SDK bên thứ ba
Trong các SDK tương thích, đặt baseURL thành https://openapi.felo.ai/api/v1. Với các client kiểu Claude, dùng base URL tương thích Anthropic. https://openapi.felo.ai/api.
Bật streaming
Thêm stream: true để nhận phản hồi dưới dạng server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform cung cấp các giao diện gọi mô hình tương thích. Chọn giao diện mà ứng dụng hoặc client agent của bạn đã hỗ trợ.
Messages
Tin nhắn tương thích Anthropic cho client kiểu Claude.
POST
https://openapi.felo.ai/api/v1/messagesTham số
modelstringnemotron-3.5-lightning:freeID mô hình công khai cần gọi.max_tokensinteger—Số token tối đa được tạo.messagesarray—Tin nhắn hội thoại cho Chat Completions.seed———toolsarray—Định nghĩa tool calling theo schema tương thích.top_p———reasoning———temperaturenumber—Điều chỉnh độ đa dạng của phản hồi khi được hỗ trợ.tool_choicestring or object—Điều chỉnh việc có nên gọi một công cụ hay không.include_reasoning———Câu hỏi thường gặp
Tìm hiểu Nemotron 3.5 Lightning (free)?
Nemotron 3.5 Lightning là mô hình hỗn hợp chuyên gia (mixture-of-experts) chỉ xử lý văn bản do NVIDIA phát hành ngày 11 tháng 8 năm 2026, với trọng số mở theo giấy phép OpenMDW-1.1 kèm dữ liệu huấn luyện và công thức. Kiến trúc lai xen kẽ các lớp Mamba-2 với lớp MoE và một số lớp attention, tổng cộng 30 tỷ tham số với khoảng 3 tỷ tham số hoạt động mỗi token. Mô hình được chưng cất từ Nemotron 3 Ultra và tích hợp giải mã suy đoán DFlash để giảm độ trễ mỗi token. Ngữ cảnh hỗ trợ lên tới 1 triệu token. Mô hình được huấn luyện cho việc sử dụng công cụ agent trên các khung phổ biến như OpenClaw và Hermes Agent, hướng tới tầng thực thi của các tác vụ agent chạy dài. So với các mô hình mở hàng đầu cùng kích thước, mô hình cho thông lượng cao hơn tới 4 lần và hoàn thành tác vụ nhanh hơn tới 30% trên khối lượng lớn tác vụ agent; một thử nghiệm độc lập ghi nhận lợi thế thông lượng 4,9 lần và lợi thế thời gian tới token đầu tiên 4,9 lần trên ba cấu hình từ ngữ cảnh ngắn đến dài. Mô hình có thể chạy trên một GPU được hỗ trợ và có thể được huấn luyện hậu kỳ bằng NVIDIA NeMo cho công cụ, quy trình và chính sách riêng của từng lĩnh vực. Về ứng dụng, mô hình phù hợp với agent cá nhân quản lý email, lịch, dự án và đặt chỗ; trích xuất dữ liệu tài liệu, kiểm tra quy tắc chính sách, giám sát tín hiệu rủi ro và tóm tắt có cấu trúc trong dịch vụ tài chính; làm giàu cảnh báo, phân loại sự cố, truy vấn log và chuẩn bị phát hiện trong vận hành an ninh mạng; phân loại cảnh báo mạng viễn thông, tối ưu cấu hình mạng và trả lời câu hỏi về hóa đơn; làm giàu danh mục sản phẩm, xử lý ngoại lệ tồn kho và giao hàng, cùng trả lời câu hỏi về đơn hàng, trả hàng và khách hàng thân thiết trong bán lẻ. Ngoài ra, mô hình còn phục vụ trợ lý lập trình đánh giá pull request hoặc tạo bản sửa lỗi, và agent hỗ trợ khách hàng xử lý yêu cầu thường ngày. Hạn chế duy nhất được ghi nhận là mô hình chỉ xử lý văn bản.
Cách tính phí sử dụng?
Hóa đơn của bạn phụ thuộc vào nhà cung cấp bạn dùng, giá của họ và mức sử dụng của bạn. Đầu vào dài hơn hoặc các điều kiện khác có thể có giá khác.
Mô hình hỗ trợ những loại đầu vào nào?
Nemotron 3.5 Lightning chỉ hỗ trợ đầu vào văn bản và đầu ra văn bản. Đây là mô hình chỉ văn bản, không xử lý hình ảnh hay âm thanh.
Ngữ cảnh tối đa của mô hình là bao nhiêu?
Mô hình hỗ trợ ngữ cảnh lên tới 1 triệu token. Tài liệu không nêu giới hạn độ dài đầu ra.
Mô hình phù hợp với những tác vụ nào?
Mô hình được thiết kế cho tầng thực thi của các tác vụ agent chạy dài và khối lượng lớn, bao gồm sử dụng công cụ, trích xuất dữ liệu tài liệu, phân loại sự cố, xử lý cảnh báo mạng và hỗ trợ khách hàng.
Nemotron 3.5 Lightning khác gì so với Nemotron 3 Ultra?
Nemotron 3.5 Lightning được chưng cất từ Nemotron 3 Ultra và là mô hình hỗn hợp chuyên gia chỉ văn bản với 30 tỷ tham số, khoảng 3 tỷ tham số hoạt động mỗi token. Mô hình được định vị là động cơ thực thi chuyên biệt cho khối lượng lớn trong cách tiếp cận hệ thống đa mô hình.
Mô hình có thể tùy chỉnh cho lĩnh vực riêng không?
Có, mô hình có thể được huấn luyện hậu kỳ bằng NVIDIA NeMo cho công cụ, quy trình và chính sách riêng của từng lĩnh vực. Sau khi huấn luyện hậu kỳ, tổ chức vẫn giữ quyền kiểm soát trọng số.
Mô hình chạy trên phần cứng nào?
Mô hình chạy trên một GPU được hỗ trợ. Trọng số có thể tải xuống theo giấy phép OpenMDW-1.1.
Mô hình liên quan
Nemotron 3.5 Super VL (free)
NVIDIAnemotron-3.5-super-vl:freeNemotron 3.5 Super VL của NVIDIA là mô hình đa phương thức kết hợp hiểu hình ảnh, suy luận, tuân thủ chỉ dẫn và sử dụng công cụ, chạy trên một GPU Blackwell duy nhất với kiến trúc mixture-of-experts 120 tỷ tham số.
Ngữ cảnh
1M
Đầu ra tối đa
131.072K
Token đầu vào
$0 / 1M token
Token đầu ra
$0 / 1M token
Nemotron 3 Ultra (free)
NVIDIAnemotron-3-ultra-550b-a55b:freeNemotron 3 Ultra là mô hình suy luận và điều phối mã nguồn mở của NVIDIA với 550 tỷ tham số, kiến trúc Mixture-of-Experts, cửa sổ ngữ cảnh 1 triệu token, phù hợp cho tác nhân tự động và nghiên cứu chuyên sâu.
Ngữ cảnh
1M
Đầu ra tối đa
65.536K
Token đầu vào
$0 / 1M token
Token đầu ra
$0 / 1M token