Felo API PlatformFelo API Platform
Zpět na modely
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

NVIDIA Nemotron 3.5 Lightning je otevřený textový model s hybridní architekturou Mixture-of-Experts, navržený pro rychlé a specializované provádění úloh v dlouho běžících agentních aplikacích.

NVIDIA Nemotron 3.5 Lightning je otevřený textový model s architekturou Mixture-of-Experts, který kombinuje vrstvy Mamba-2, MoE a vybrané attention vrstvy. Obsahuje 30 miliard celkových parametrů s přibližně 3 miliardami aktivních parametrů na token. Byl distillován z modelu Nemotron 3 Ultra a je trénován pro agentní používání nástrojů v populárních prostředích, jako jsou OpenClaw a Hermes Agent. Model zahrnuje spekulativní dekódování DFlash pro snížení latence na token a lze jej doladit pomocí NVIDIA NeMo pro doménově specifické nástroje, pracovní postupy a zásady. Je vydán pod licencí OpenMDW-1.1 s dostupnými váhami, trénovacími daty a recepty a běží na jedné podporované GPU.

Model je určen pro vysoký objem agentních úloh, kde je klíčová propustnost a rychlost dokončení. Mezi typické scénáře patří osobní agenti spravující e-maily, kalendář a rezervace, extrakce dat z dokumentů ve finančních službách, obohacování výstrah v kybernetické bezpečnosti, třídění síťových alarmů v telekomunikacích, správa produktových katalogů v maloobchodě, asistenti pro kontrolu pull requestů a generování oprav, a zákaznická podpora s agenty pro rutinní požadavky. Díky otevřeným vahám si organizace po doladění zachovávají kontrolu nad modelem.

Model je součástí přístupu system-of-models, kde funguje jako specializovaný vysoce výkonný prováděcí引擎. Byl vydán spolu s NeMo Switchyard, open-source knihovnou pro směrování modelů, která směruje kroky pracovního postupu na různé modely podle nákladů, rychlosti a požadavků úlohy. Je dostupný prostřednictvím kanálů včetně Amazon SageMaker JumpStart, GMI Cloud, DeepInfra a OpenRouter. Model je pouze textový a nepodporuje jiné modality.

Aktualizováno:

MODEL ID

nemotron-3.5-lightning:free
Kontext
1M
Max. výstup
65.536K
Doporučené API
messages
Vstup
text
Výstup
text

Hlavní body

  • Otevřený textový model s 30 miliardami parametrů
  • Přibližně 3 miliardy aktivních parametrů na token
  • Hybridní architektura Mamba-2, MoE a attention
  • Spekulativní dekódování DFlash pro nízkou latenci
  • Doladění pomocí NVIDIA NeMo
  • Licence OpenMDW-1.1 s dostupnými váhami

Poskytovatelé

1 poskytovatelů

Porovnejte ceny API u různých poskytovatelů. Vyberte poskytovatele a zobrazte všechny poplatky a podmínky.

Poskytovatel · Podrobnosti k cenám
Dostupnost
$0$0

Benchmarky

  • AA-Omniscience Non-Hallucination Rate

    Artificial Analysis

    64.3%
  • Odstraněné nadužívané vzory

    procento, testování doménové adaptace

    66.4%
  • Bohatost slovní zásoby

    procento základní úrovně, testování doménové adaptace

    98.4%
  • Přesnost validace při doladění vidění

    před doladěním, případová studie společnosti

    20%
  • Přesnost validace při doladění vidění

    po doladění, případová studie společnosti

    58%

Skóre podle zveřejnění poskytovatele modelu.

Uvažování

Vždy zapnuto
Ne

Rychlý start

Kód připravený ke vložení pro volání tohoto modelu pomocí kompatibilních API Felo API Platform. Pokud chcete prompty vyzkoušet před psaním kódu, začněte v Playground.

1

Získejte API klíč

Vytvořte klíč ve svém účtu Felo API Platform a nastavte jej jako proměnnou prostředí.

export FELO_API_KEY="YOUR_API_KEY"
2

Odešlete první požadavek

Použijte toto ID modelu s endpointem Felo API Platform. Volitelné hlavičky požadavku, jako X-Request-Id, mohou pomoci při řešení potíží.

nemotron-3.5-lightning:free

Tento model podporuje uvažování. Pokud zvolený protokol a trasa modelu nabízejí ovládací prvky uvažování, zachovejte vrácená metadata uvažování při pokračování konverzace.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Použití SDK třetích stran

Používejte kompatibilní SDK nastavením baseURL na https://openapi.felo.ai/api/v1. Pro klienty ve stylu Claude použijte base URL kompatibilní s Anthropic. https://openapi.felo.ai/api.

3

Zapněte streamování

Přidejte stream: true, abyste dostávali odpovědi jako server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform nabízí kompatibilní rozhraní pro volání modelů. Vyberte to, které vaše aplikace nebo klientský agent již podporuje.

RozhraníMetodaURL

Messages

Zprávy kompatibilní s Anthropic pro klienty ve stylu Claude.

POST

https://openapi.felo.ai/api/v1/messages

Parametry

NázevTypVýchozíPopis
modelstringnemotron-3.5-lightning:freeVeřejné ID modelu pro volání.
max_tokensinteger—Maximální počet generovaných tokenů.
messagesarray—Zprávy konverzace pro Chat Completions.
seed———
toolsarray—Definice volání nástrojů podle kompatibilního schématu.
top_p———
reasoning———
temperaturenumber—Řídí různorodost odpovědí, pokud je podporováno.
tool_choicestring or object—Řídí, zda má být nástroj zavolán.
include_reasoning———

Časté dotazy

Co je Nemotron 3.5 Lightning (free)?

NVIDIA Nemotron 3.5 Lightning je otevřený textový model s architekturou Mixture-of-Experts, který kombinuje vrstvy Mamba-2, MoE a vybrané attention vrstvy. Obsahuje 30 miliard celkových parametrů s přibližně 3 miliardami aktivních parametrů na token. Byl distillován z modelu Nemotron 3 Ultra a je trénován pro agentní používání nástrojů v populárních prostředích, jako jsou OpenClaw a Hermes Agent. Model zahrnuje spekulativní dekódování DFlash pro snížení latence na token a lze jej doladit pomocí NVIDIA NeMo pro doménově specifické nástroje, pracovní postupy a zásady. Je vydán pod licencí OpenMDW-1.1 s dostupnými váhami, trénovacími daty a recepty a běží na jedné podporované GPU. Model je určen pro vysoký objem agentních úloh, kde je klíčová propustnost a rychlost dokončení. Mezi typické scénáře patří osobní agenti spravující e-maily, kalendář a rezervace, extrakce dat z dokumentů ve finančních službách, obohacování výstrah v kybernetické bezpečnosti, třídění síťových alarmů v telekomunikacích, správa produktových katalogů v maloobchodě, asistenti pro kontrolu pull requestů a generování oprav, a zákaznická podpora s agenty pro rutinní požadavky. Díky otevřeným vahám si organizace po doladění zachovávají kontrolu nad modelem. Model je součástí přístupu system-of-models, kde funguje jako specializovaný vysoce výkonný prováděcí引擎. Byl vydán spolu s NeMo Switchyard, open-source knihovnou pro směrování modelů, která směruje kroky pracovního postupu na různé modely podle nákladů, rychlosti a požadavků úlohy. Je dostupný prostřednictvím kanálů včetně Amazon SageMaker JumpStart, GMI Cloud, DeepInfra a OpenRouter. Model je pouze textový a nepodporuje jiné modality.

Jak se využití účtuje?

Faktura závisí na zvoleném poskytovateli, jeho cenách a vašem využití. Delší vstupy nebo jiné podmínky mohou mít jiné ceny.

Jaké vstupy a výstupy model podporuje?

Model přijímá textový vstup a produkuje textový výstup. Je určen výhradně pro textové úlohy.

Jaká je délka kontextu modelu?

Model podporuje kontext až do 1 milionu tokenů.

Pro jaké úlohy je model vhodný?

Je navržen pro vysoký objem agentních úloh, jako jsou osobní agenti, finanční extrakce dat, kybernetická bezpečnost, telekomunikace, maloobchod, asistenti pro programování a zákaznická podpora.

Jak se liší od modelu Nemotron 3 Ultra?

Nemotron 3.5 Lightning byl distillován z modelu Nemotron 3 Ultra a je optimalizován pro rychlé a specializované provádění úloh v dlouho běžících agentních aplikacích, zatímco Nemotron 3 Ultra je frontier model.

Jaké jsou hlavní výhody modelu?

Model nabízí až 4x vyšší propustnost a až o 30 % rychlejší dokončení úloh ve srovnání s jinými předními otevřenými modely podobné velikosti. Dosahuje výkonu srovnatelného s mnohem většími hustými modely při přibližně čtvrtinovém počtu celkových parametrů.

Jak lze model doladit?

Model lze doladit pomocí NVIDIA NeMo pro doménově specifické nástroje, pracovní postupy a zásady. Po doladění si organizace zachovávají kontrolu nad váhami.

Související modely