Nemotron 3.5 Lightning (free) API
Model open-weight berbasis teks dari NVIDIA yang dirancang untuk eksekusi tugas agen jangka panjang dengan arsitektur hybrid Mixture-of-Experts, mendukung konteks hingga 1 juta token.
NVIDIA Nemotron 3.5 Lightning adalah model open-weight berbasis teks yang dirilis pada 11 Agustus 2026. Model ini menggunakan arsitektur hybrid Mixture-of-Experts yang menyelang-selingi lapisan Mamba-2, lapisan MoE, dan lapisan attention tertentu. Dengan 30 miliar parameter total dan sekitar 3 miliar parameter aktif per token, model ini didistilasi dari Nemotron 3 Ultra dan mengintegrasikan DFlash speculative decoding untuk mengurangi latensi per token. Bobot, data pelatihan, dan resep tersedia di bawah lisensi OpenMDW-1.1, dan model dapat dijalankan pada satu GPU yang didukung.
Model ini dibangun untuk lapisan eksekusi beban kerja agen AI jangka panjang dan dilatih untuk penggunaan alat agen di berbagai harness populer seperti OpenClaw dan Hermes Agent. Kemampuannya mencakup ekstraksi data dokumen, pemeriksaan aturan kebijakan, pengayaan peringatan keamanan siber, triase alarm jaringan telekomunikasi, pengayaan katalog produk ritel, asisten coding untuk review pull request atau pembuatan perbaikan, serta agen dukungan pelanggan dan penagihan. Model ini juga dapat di-post-training dengan NVIDIA NeMo untuk alat, alur kerja, dan kebijakan spesifik domain, dengan organisasi tetap memegang kendali atas bobot setelahnya.
Dibandingkan model open lain dengan ukuran serupa, Nemotron 3.5 Lightning menawarkan throughput hingga 4x lebih tinggi dan penyelesaian tugas hingga 30% lebih cepat pada beban kerja agen bervolume tinggi. Model ini menyamai atau mendekati performa model dense yang jauh lebih besar dengan jumlah parameter sekitar seperempatnya. Satu pengujian independen menemukan keunggulan throughput 4.9x dan time-to-first-token 4.9x across tiga profil, dari konteks pendek hingga panjang. Model ini juga dirilis bersama NeMo Switchyard, pustaka routing model open-source, dan tersedia melalui Amazon SageMaker JumpStart, GMI Cloud, DeepInfra, dan OpenRouter.
Diperbarui:
ID MODEL
nemotron-3.5-lightning:free- Konteks
- 1M
- Output maks
- 65.536K
- API yang direkomendasikan
- messages
- Masukan
- text
- Keluaran
- text
Sorotan
- Open-weight dengan lisensi OpenMDW-1.1
- Konteks hingga 1 juta token
- 30 miliar parameter total, 3 miliar aktif
- Arsitektur hybrid Mamba-2 dan MoE
- DFlash speculative decoding
- Throughput hingga 4x lebih tinggi
Penyedia
Bandingkan harga API antarpenyedia. Pilih penyedia untuk melihat semua biaya dan ketentuan.
| Ketersediaan | |||
|---|---|---|---|
| $0 | $0 |
Statistik historis bukan pemeriksaan langsung. Data yang hilang tidak berarti gangguan.
Tolok ukur
- 64.3%
AA-Omniscience Non-Hallucination Rate
Artificial Analysis
- 66.4%
Pola berlebihan yang dihilangkan
persentase, pengujian adaptasi domain
- 98.4%
Kekayaan kosakata
persentase dari baseline, pengujian adaptasi domain
- 20%
Akurasi validasi fine-tuning visi
sebelum fine-tuning, studi kasus perusahaan
- 58%
Akurasi validasi fine-tuning visi
setelah fine-tuning, studi kasus perusahaan
Skor sesuai publikasi penyedia model.
Penalaran
- Selalu aktif
- Tidak
Mulai cepat
Kode siap pakai untuk memanggil model ini dengan API yang kompatibel dari Felo API Platform. Mulai di Playground jika Anda ingin menguji prompt sebelum menulis kode.
Siapkan kunci API
Buat kunci dari akun Felo API Platform Anda dan tetapkan sebagai variabel lingkungan.
export FELO_API_KEY="YOUR_API_KEY"Kirim permintaan pertama
Gunakan ID model ini dengan endpoint Felo API Platform. Header permintaan opsional seperti X-Request-Id dapat membantu pemecahan masalah.
nemotron-3.5-lightning:freeModel ini mampu melakukan penalaran. Jika protokol dan rute model yang Anda pilih menyediakan kontrol penalaran, pertahankan metadata penalaran yang dikembalikan saat melanjutkan percakapan.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Menggunakan SDK pihak ketiga
Pada SDK yang kompatibel, tetapkan baseURL ke https://openapi.felo.ai/api/v1. Untuk klien bergaya Claude, gunakan base URL yang kompatibel dengan Anthropic. https://openapi.felo.ai/api.
Aktifkan streaming
Tambahkan stream: true untuk menerima respons sebagai server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform menyediakan antarmuka pemanggilan model yang kompatibel. Pilih antarmuka yang sudah didukung aplikasi atau klien agen Anda.
Messages
Pesan yang kompatibel dengan Anthropic untuk klien bergaya Claude.
POST
https://openapi.felo.ai/api/v1/messagesParameter
modelstringnemotron-3.5-lightning:freeID model publik yang akan dipanggil.max_tokensinteger—Jumlah maksimum token yang dihasilkan.messagesarray—Pesan percakapan untuk Chat Completions.seed———toolsarray—Definisi tool calling sesuai skema yang kompatibel.top_p———reasoning———temperaturenumber—Mengontrol variasi respons jika didukung.tool_choicestring or object—Mengontrol apakah suatu alat harus dipanggil.include_reasoning———Pertanyaan umum
Mengenal Nemotron 3.5 Lightning (free)?
NVIDIA Nemotron 3.5 Lightning adalah model open-weight berbasis teks yang dirilis pada 11 Agustus 2026. Model ini menggunakan arsitektur hybrid Mixture-of-Experts yang menyelang-selingi lapisan Mamba-2, lapisan MoE, dan lapisan attention tertentu. Dengan 30 miliar parameter total dan sekitar 3 miliar parameter aktif per token, model ini didistilasi dari Nemotron 3 Ultra dan mengintegrasikan DFlash speculative decoding untuk mengurangi latensi per token. Bobot, data pelatihan, dan resep tersedia di bawah lisensi OpenMDW-1.1, dan model dapat dijalankan pada satu GPU yang didukung. Model ini dibangun untuk lapisan eksekusi beban kerja agen AI jangka panjang dan dilatih untuk penggunaan alat agen di berbagai harness populer seperti OpenClaw dan Hermes Agent. Kemampuannya mencakup ekstraksi data dokumen, pemeriksaan aturan kebijakan, pengayaan peringatan keamanan siber, triase alarm jaringan telekomunikasi, pengayaan katalog produk ritel, asisten coding untuk review pull request atau pembuatan perbaikan, serta agen dukungan pelanggan dan penagihan. Model ini juga dapat di-post-training dengan NVIDIA NeMo untuk alat, alur kerja, dan kebijakan spesifik domain, dengan organisasi tetap memegang kendali atas bobot setelahnya. Dibandingkan model open lain dengan ukuran serupa, Nemotron 3.5 Lightning menawarkan throughput hingga 4x lebih tinggi dan penyelesaian tugas hingga 30% lebih cepat pada beban kerja agen bervolume tinggi. Model ini menyamai atau mendekati performa model dense yang jauh lebih besar dengan jumlah parameter sekitar seperempatnya. Satu pengujian independen menemukan keunggulan throughput 4.9x dan time-to-first-token 4.9x across tiga profil, dari konteks pendek hingga panjang. Model ini juga dirilis bersama NeMo Switchyard, pustaka routing model open-source, dan tersedia melalui Amazon SageMaker JumpStart, GMI Cloud, DeepInfra, dan OpenRouter.
Bagaimana penggunaan ditagih?
Tagihan Anda bergantung pada penyedia yang digunakan, tarifnya, dan penggunaan Anda. Masukan yang lebih panjang atau ketentuan lain dapat memiliki harga berbeda.
Apa saja modalitas input dan output yang didukung?
Nemotron 3.5 Lightning hanya mendukung input teks dan output teks.
Berapa panjang konteks yang didukung?
Model ini mendukung konteks hingga 1 juta token.
Tugas apa yang paling cocok untuk model ini?
Model ini cocok untuk eksekusi tugas agen jangka panjang bervolume tinggi, seperti ekstraksi data dokumen, triase alarm, asisten coding, dan agen dukungan pelanggan.
Apa perbedaan Nemotron 3.5 Lightning dengan Nemotron 3 Ultra?
Nemotron 3.5 Lightning didistilasi dari Nemotron 3 Ultra dan diposisikan sebagai mesin eksekusi khusus bervolume tinggi, bukan model frontier.
Apakah model ini dapat disesuaikan untuk domain tertentu?
Ya, model dapat di-post-training dengan NVIDIA NeMo untuk alat, alur kerja, dan kebijakan spesifik domain.
Model terkait
Nemotron 3.5 Super VL (free)
NVIDIAnemotron-3.5-super-vl:freeModel multimodal dari NVIDIA yang menggabungkan pemahaman visual, penalaran, dan penggunaan alat, dirancang untuk agen khusus dengan arsitektur mixture-of-experts 120 miliar parameter.
Konteks
1M
Output maks
131.072K
Token masukan
$0 / 1M token
Token keluaran
$0 / 1M token
Nemotron 3 Ultra (free)
NVIDIAnemotron-3-ultra-550b-a55b:freeModel penalaran dan orkestrasi sumber terbuka dari NVIDIA dengan arsitektur MoE hibrida 550 miliar parameter dan konteks 1 juta token, dirancang untuk agen otonom serta pipeline inferensi bervolume tinggi.
Konteks
1M
Output maks
65.536K
Token masukan
$0 / 1M token
Token keluaran
$0 / 1M token