Felo API PlatformFelo API Platform
Kembali ke model
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

Model open-weight berbasis teks dari NVIDIA yang dirancang untuk eksekusi tugas agen jangka panjang dengan arsitektur hybrid Mixture-of-Experts, mendukung konteks hingga 1 juta token.

NVIDIA Nemotron 3.5 Lightning adalah model open-weight berbasis teks yang dirilis pada 11 Agustus 2026. Model ini menggunakan arsitektur hybrid Mixture-of-Experts yang menyelang-selingi lapisan Mamba-2, lapisan MoE, dan lapisan attention tertentu. Dengan 30 miliar parameter total dan sekitar 3 miliar parameter aktif per token, model ini didistilasi dari Nemotron 3 Ultra dan mengintegrasikan DFlash speculative decoding untuk mengurangi latensi per token. Bobot, data pelatihan, dan resep tersedia di bawah lisensi OpenMDW-1.1, dan model dapat dijalankan pada satu GPU yang didukung.

Model ini dibangun untuk lapisan eksekusi beban kerja agen AI jangka panjang dan dilatih untuk penggunaan alat agen di berbagai harness populer seperti OpenClaw dan Hermes Agent. Kemampuannya mencakup ekstraksi data dokumen, pemeriksaan aturan kebijakan, pengayaan peringatan keamanan siber, triase alarm jaringan telekomunikasi, pengayaan katalog produk ritel, asisten coding untuk review pull request atau pembuatan perbaikan, serta agen dukungan pelanggan dan penagihan. Model ini juga dapat di-post-training dengan NVIDIA NeMo untuk alat, alur kerja, dan kebijakan spesifik domain, dengan organisasi tetap memegang kendali atas bobot setelahnya.

Dibandingkan model open lain dengan ukuran serupa, Nemotron 3.5 Lightning menawarkan throughput hingga 4x lebih tinggi dan penyelesaian tugas hingga 30% lebih cepat pada beban kerja agen bervolume tinggi. Model ini menyamai atau mendekati performa model dense yang jauh lebih besar dengan jumlah parameter sekitar seperempatnya. Satu pengujian independen menemukan keunggulan throughput 4.9x dan time-to-first-token 4.9x across tiga profil, dari konteks pendek hingga panjang. Model ini juga dirilis bersama NeMo Switchyard, pustaka routing model open-source, dan tersedia melalui Amazon SageMaker JumpStart, GMI Cloud, DeepInfra, dan OpenRouter.

Diperbarui:

ID MODEL

nemotron-3.5-lightning:free
Konteks
1M
Output maks
65.536K
API yang direkomendasikan
messages
Masukan
text
Keluaran
text

Sorotan

  • Open-weight dengan lisensi OpenMDW-1.1
  • Konteks hingga 1 juta token
  • 30 miliar parameter total, 3 miliar aktif
  • Arsitektur hybrid Mamba-2 dan MoE
  • DFlash speculative decoding
  • Throughput hingga 4x lebih tinggi

Penyedia

1 penyedia

Bandingkan harga API antarpenyedia. Pilih penyedia untuk melihat semua biaya dan ketentuan.

Penyedia · Detail harga
Ketersediaan
$0$0

Tolok ukur

  • AA-Omniscience Non-Hallucination Rate

    Artificial Analysis

    64.3%
  • Pola berlebihan yang dihilangkan

    persentase, pengujian adaptasi domain

    66.4%
  • Kekayaan kosakata

    persentase dari baseline, pengujian adaptasi domain

    98.4%
  • Akurasi validasi fine-tuning visi

    sebelum fine-tuning, studi kasus perusahaan

    20%
  • Akurasi validasi fine-tuning visi

    setelah fine-tuning, studi kasus perusahaan

    58%

Skor sesuai publikasi penyedia model.

Penalaran

Selalu aktif
Tidak

Mulai cepat

Kode siap pakai untuk memanggil model ini dengan API yang kompatibel dari Felo API Platform. Mulai di Playground jika Anda ingin menguji prompt sebelum menulis kode.

1

Siapkan kunci API

Buat kunci dari akun Felo API Platform Anda dan tetapkan sebagai variabel lingkungan.

export FELO_API_KEY="YOUR_API_KEY"
2

Kirim permintaan pertama

Gunakan ID model ini dengan endpoint Felo API Platform. Header permintaan opsional seperti X-Request-Id dapat membantu pemecahan masalah.

nemotron-3.5-lightning:free

Model ini mampu melakukan penalaran. Jika protokol dan rute model yang Anda pilih menyediakan kontrol penalaran, pertahankan metadata penalaran yang dikembalikan saat melanjutkan percakapan.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Menggunakan SDK pihak ketiga

Pada SDK yang kompatibel, tetapkan baseURL ke https://openapi.felo.ai/api/v1. Untuk klien bergaya Claude, gunakan base URL yang kompatibel dengan Anthropic. https://openapi.felo.ai/api.

3

Aktifkan streaming

Tambahkan stream: true untuk menerima respons sebagai server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform menyediakan antarmuka pemanggilan model yang kompatibel. Pilih antarmuka yang sudah didukung aplikasi atau klien agen Anda.

AntarmukaMetodeURL

Messages

Pesan yang kompatibel dengan Anthropic untuk klien bergaya Claude.

POST

https://openapi.felo.ai/api/v1/messages

Parameter

NamaTipeDefaultDeskripsi
modelstringnemotron-3.5-lightning:freeID model publik yang akan dipanggil.
max_tokensinteger—Jumlah maksimum token yang dihasilkan.
messagesarray—Pesan percakapan untuk Chat Completions.
seed———
toolsarray—Definisi tool calling sesuai skema yang kompatibel.
top_p———
reasoning———
temperaturenumber—Mengontrol variasi respons jika didukung.
tool_choicestring or object—Mengontrol apakah suatu alat harus dipanggil.
include_reasoning———

Pertanyaan umum

Mengenal Nemotron 3.5 Lightning (free)?

NVIDIA Nemotron 3.5 Lightning adalah model open-weight berbasis teks yang dirilis pada 11 Agustus 2026. Model ini menggunakan arsitektur hybrid Mixture-of-Experts yang menyelang-selingi lapisan Mamba-2, lapisan MoE, dan lapisan attention tertentu. Dengan 30 miliar parameter total dan sekitar 3 miliar parameter aktif per token, model ini didistilasi dari Nemotron 3 Ultra dan mengintegrasikan DFlash speculative decoding untuk mengurangi latensi per token. Bobot, data pelatihan, dan resep tersedia di bawah lisensi OpenMDW-1.1, dan model dapat dijalankan pada satu GPU yang didukung. Model ini dibangun untuk lapisan eksekusi beban kerja agen AI jangka panjang dan dilatih untuk penggunaan alat agen di berbagai harness populer seperti OpenClaw dan Hermes Agent. Kemampuannya mencakup ekstraksi data dokumen, pemeriksaan aturan kebijakan, pengayaan peringatan keamanan siber, triase alarm jaringan telekomunikasi, pengayaan katalog produk ritel, asisten coding untuk review pull request atau pembuatan perbaikan, serta agen dukungan pelanggan dan penagihan. Model ini juga dapat di-post-training dengan NVIDIA NeMo untuk alat, alur kerja, dan kebijakan spesifik domain, dengan organisasi tetap memegang kendali atas bobot setelahnya. Dibandingkan model open lain dengan ukuran serupa, Nemotron 3.5 Lightning menawarkan throughput hingga 4x lebih tinggi dan penyelesaian tugas hingga 30% lebih cepat pada beban kerja agen bervolume tinggi. Model ini menyamai atau mendekati performa model dense yang jauh lebih besar dengan jumlah parameter sekitar seperempatnya. Satu pengujian independen menemukan keunggulan throughput 4.9x dan time-to-first-token 4.9x across tiga profil, dari konteks pendek hingga panjang. Model ini juga dirilis bersama NeMo Switchyard, pustaka routing model open-source, dan tersedia melalui Amazon SageMaker JumpStart, GMI Cloud, DeepInfra, dan OpenRouter.

Bagaimana penggunaan ditagih?

Tagihan Anda bergantung pada penyedia yang digunakan, tarifnya, dan penggunaan Anda. Masukan yang lebih panjang atau ketentuan lain dapat memiliki harga berbeda.

Apa saja modalitas input dan output yang didukung?

Nemotron 3.5 Lightning hanya mendukung input teks dan output teks.

Berapa panjang konteks yang didukung?

Model ini mendukung konteks hingga 1 juta token.

Tugas apa yang paling cocok untuk model ini?

Model ini cocok untuk eksekusi tugas agen jangka panjang bervolume tinggi, seperti ekstraksi data dokumen, triase alarm, asisten coding, dan agen dukungan pelanggan.

Apa perbedaan Nemotron 3.5 Lightning dengan Nemotron 3 Ultra?

Nemotron 3.5 Lightning didistilasi dari Nemotron 3 Ultra dan diposisikan sebagai mesin eksekusi khusus bervolume tinggi, bukan model frontier.

Apakah model ini dapat disesuaikan untuk domain tertentu?

Ya, model dapat di-post-training dengan NVIDIA NeMo untuk alat, alur kerja, dan kebijakan spesifik domain.

Model terkait