Nemotron 3.5 Lightning (free) API
NVIDIA Nemotron 3.5 Lightning je otevřený textový model s hybridní architekturou Mixture-of-Experts, navržený pro rychlé a specializované provádění úloh v dlouho běžících agentních aplikacích.
NVIDIA Nemotron 3.5 Lightning je otevřený textový model s architekturou Mixture-of-Experts, který kombinuje vrstvy Mamba-2, MoE a vybrané attention vrstvy. Obsahuje 30 miliard celkových parametrů s přibližně 3 miliardami aktivních parametrů na token. Byl distillován z modelu Nemotron 3 Ultra a je trénován pro agentní používání nástrojů v populárních prostředích, jako jsou OpenClaw a Hermes Agent. Model zahrnuje spekulativní dekódování DFlash pro snížení latence na token a lze jej doladit pomocí NVIDIA NeMo pro doménově specifické nástroje, pracovní postupy a zásady. Je vydán pod licencí OpenMDW-1.1 s dostupnými váhami, trénovacími daty a recepty a běží na jedné podporované GPU.
Model je určen pro vysoký objem agentních úloh, kde je klíčová propustnost a rychlost dokončení. Mezi typické scénáře patří osobní agenti spravující e-maily, kalendář a rezervace, extrakce dat z dokumentů ve finančních službách, obohacování výstrah v kybernetické bezpečnosti, třídění síťových alarmů v telekomunikacích, správa produktových katalogů v maloobchodě, asistenti pro kontrolu pull requestů a generování oprav, a zákaznická podpora s agenty pro rutinní požadavky. Díky otevřeným vahám si organizace po doladění zachovávají kontrolu nad modelem.
Model je součástí přístupu system-of-models, kde funguje jako specializovaný vysoce výkonný prováděcí引擎. Byl vydán spolu s NeMo Switchyard, open-source knihovnou pro směrování modelů, která směruje kroky pracovního postupu na různé modely podle nákladů, rychlosti a požadavků úlohy. Je dostupný prostřednictvím kanálů včetně Amazon SageMaker JumpStart, GMI Cloud, DeepInfra a OpenRouter. Model je pouze textový a nepodporuje jiné modality.
Aktualizováno:
MODEL ID
nemotron-3.5-lightning:free- Kontext
- 1M
- Max. výstup
- 65.536K
- Doporučené API
- messages
- Vstup
- text
- Výstup
- text
Hlavní body
- Otevřený textový model s 30 miliardami parametrů
- Přibližně 3 miliardy aktivních parametrů na token
- Hybridní architektura Mamba-2, MoE a attention
- Spekulativní dekódování DFlash pro nízkou latenci
- Doladění pomocí NVIDIA NeMo
- Licence OpenMDW-1.1 s dostupnými váhami
Poskytovatelé
Porovnejte ceny API u různých poskytovatelů. Vyberte poskytovatele a zobrazte všechny poplatky a podmínky.
| Dostupnost | |||
|---|---|---|---|
| $0 | $0 |
Historická data nejsou kontrolou v reálném čase. Chybějící data neznamenají výpadek.
Benchmarky
- 64.3%
AA-Omniscience Non-Hallucination Rate
Artificial Analysis
- 66.4%
Odstraněné nadužívané vzory
procento, testování doménové adaptace
- 98.4%
Bohatost slovní zásoby
procento základní úrovně, testování doménové adaptace
- 20%
Přesnost validace při doladění vidění
před doladěním, případová studie společnosti
- 58%
Přesnost validace při doladění vidění
po doladění, případová studie společnosti
Skóre podle zveřejnění poskytovatele modelu.
Uvažování
- Vždy zapnuto
- Ne
Rychlý start
Kód připravený ke vložení pro volání tohoto modelu pomocí kompatibilních API Felo API Platform. Pokud chcete prompty vyzkoušet před psaním kódu, začněte v Playground.
Získejte API klíč
Vytvořte klíč ve svém účtu Felo API Platform a nastavte jej jako proměnnou prostředí.
export FELO_API_KEY="YOUR_API_KEY"Odešlete první požadavek
Použijte toto ID modelu s endpointem Felo API Platform. Volitelné hlavičky požadavku, jako X-Request-Id, mohou pomoci při řešení potíží.
nemotron-3.5-lightning:freeTento model podporuje uvažování. Pokud zvolený protokol a trasa modelu nabízejí ovládací prvky uvažování, zachovejte vrácená metadata uvažování při pokračování konverzace.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Použití SDK třetích stran
Používejte kompatibilní SDK nastavením baseURL na https://openapi.felo.ai/api/v1. Pro klienty ve stylu Claude použijte base URL kompatibilní s Anthropic. https://openapi.felo.ai/api.
Zapněte streamování
Přidejte stream: true, abyste dostávali odpovědi jako server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform nabízí kompatibilní rozhraní pro volání modelů. Vyberte to, které vaše aplikace nebo klientský agent již podporuje.
Messages
Zprávy kompatibilní s Anthropic pro klienty ve stylu Claude.
POST
https://openapi.felo.ai/api/v1/messagesParametry
modelstringnemotron-3.5-lightning:freeVeřejné ID modelu pro volání.max_tokensinteger—Maximální počet generovaných tokenů.messagesarray—Zprávy konverzace pro Chat Completions.seed———toolsarray—Definice volání nástrojů podle kompatibilního schématu.top_p———reasoning———temperaturenumber—Řídí různorodost odpovědí, pokud je podporováno.tool_choicestring or object—Řídí, zda má být nástroj zavolán.include_reasoning———Časté dotazy
Co je Nemotron 3.5 Lightning (free)?
NVIDIA Nemotron 3.5 Lightning je otevřený textový model s architekturou Mixture-of-Experts, který kombinuje vrstvy Mamba-2, MoE a vybrané attention vrstvy. Obsahuje 30 miliard celkových parametrů s přibližně 3 miliardami aktivních parametrů na token. Byl distillován z modelu Nemotron 3 Ultra a je trénován pro agentní používání nástrojů v populárních prostředích, jako jsou OpenClaw a Hermes Agent. Model zahrnuje spekulativní dekódování DFlash pro snížení latence na token a lze jej doladit pomocí NVIDIA NeMo pro doménově specifické nástroje, pracovní postupy a zásady. Je vydán pod licencí OpenMDW-1.1 s dostupnými váhami, trénovacími daty a recepty a běží na jedné podporované GPU. Model je určen pro vysoký objem agentních úloh, kde je klíčová propustnost a rychlost dokončení. Mezi typické scénáře patří osobní agenti spravující e-maily, kalendář a rezervace, extrakce dat z dokumentů ve finančních službách, obohacování výstrah v kybernetické bezpečnosti, třídění síťových alarmů v telekomunikacích, správa produktových katalogů v maloobchodě, asistenti pro kontrolu pull requestů a generování oprav, a zákaznická podpora s agenty pro rutinní požadavky. Díky otevřeným vahám si organizace po doladění zachovávají kontrolu nad modelem. Model je součástí přístupu system-of-models, kde funguje jako specializovaný vysoce výkonný prováděcí引擎. Byl vydán spolu s NeMo Switchyard, open-source knihovnou pro směrování modelů, která směruje kroky pracovního postupu na různé modely podle nákladů, rychlosti a požadavků úlohy. Je dostupný prostřednictvím kanálů včetně Amazon SageMaker JumpStart, GMI Cloud, DeepInfra a OpenRouter. Model je pouze textový a nepodporuje jiné modality.
Jak se využití účtuje?
Faktura závisí na zvoleném poskytovateli, jeho cenách a vašem využití. Delší vstupy nebo jiné podmínky mohou mít jiné ceny.
Jaké vstupy a výstupy model podporuje?
Model přijímá textový vstup a produkuje textový výstup. Je určen výhradně pro textové úlohy.
Jaká je délka kontextu modelu?
Model podporuje kontext až do 1 milionu tokenů.
Pro jaké úlohy je model vhodný?
Je navržen pro vysoký objem agentních úloh, jako jsou osobní agenti, finanční extrakce dat, kybernetická bezpečnost, telekomunikace, maloobchod, asistenti pro programování a zákaznická podpora.
Jak se liší od modelu Nemotron 3 Ultra?
Nemotron 3.5 Lightning byl distillován z modelu Nemotron 3 Ultra a je optimalizován pro rychlé a specializované provádění úloh v dlouho běžících agentních aplikacích, zatímco Nemotron 3 Ultra je frontier model.
Jaké jsou hlavní výhody modelu?
Model nabízí až 4x vyšší propustnost a až o 30 % rychlejší dokončení úloh ve srovnání s jinými předními otevřenými modely podobné velikosti. Dosahuje výkonu srovnatelného s mnohem většími hustými modely při přibližně čtvrtinovém počtu celkových parametrů.
Jak lze model doladit?
Model lze doladit pomocí NVIDIA NeMo pro doménově specifické nástroje, pracovní postupy a zásady. Po doladění si organizace zachovávají kontrolu nad váhami.
Související modely
Nemotron 3.5 Super VL (free)
NVIDIAnemotron-3.5-super-vl:freeNVIDIA Nemotron 3.5 Super VL je multimodální model pro agenty, který kombinuje vidění, uvažování a volání nástrojů v jediném modelu s kontextem až 1 000 000 tokenů.
Kontext
1M
Max. výstup
131.072K
Vstupní tokeny
$0 / 1M tokenů
Výstupní tokeny
$0 / 1M tokenů
Nemotron 3 Ultra (free)
NVIDIAnemotron-3-ultra-550b-a55b:freeNVIDIA Nemotron 3 Ultra je otevřený model pro vícekrokové uvažování a orchestraci agentů s kontextem 1 milion tokenů, 550 miliardami celkových a 55 miliardami aktivních parametrů.
Kontext
1M
Max. výstup
65.536K
Vstupní tokeny
$0 / 1M tokenů
Výstupní tokeny
$0 / 1M tokenů