Felo API PlatformFelo API Platform
Voltar aos modelos
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

Modelo de pesos abertos da NVIDIA, somente texto, com arquitetura híbrida de mistura de especialistas, criado para executar tarefas de agentes de longa duração com alta vazão.

O Nemotron 3.5 Lightning é um modelo da NVIDIA com pesos abertos, apenas para texto, baseado em uma arquitetura híbrida de mistura de especialistas que intercala camadas Mamba-2, camadas MoE e camadas de atenção seletivas. São 30 bilhões de parâmetros totais, com aproximadamente 3 bilhões de parâmetros ativos por token, o que o coloca na faixa de modelos densos muito maiores em termos de desempenho, mas com cerca de um quarto da contagem total de parâmetros. Ele foi destilado do Nemotron 3 Ultra, o modelo de fronteira da NVIDIA, e incorpora decodificação especulativa DFlash para reduzir a latência por token.

O modelo foi projetado para a camada de execução de cargas de trabalho agênticas de longa duração e treinado para uso de ferramentas em harnesses populares como OpenClaw e Hermes Agent. Segundo a NVIDIA, entrega até 4x mais vazão e até 30% mais rapidez na conclusão de tarefas em cargas agênticas de alto volume, em comparação com outros modelos abertos líderes de tamanho semelhante. Um teste independente registrou vantagem de 4,9x em vazão e de 4,9x em tempo até o primeiro token em três perfis, de contexto curto a longo. Com contexto de até 1 milhão de tokens, atende desde agentes pessoais que gerenciam e-mail, agenda e reservas até extração de dados em serviços financeiros, triagem de alertas de segurança, atendimento e suporte ao cliente.

A distribuição é feita sob a licença OpenMDW-1.1, com pesos, dados de treinamento e receitas disponíveis para download, e o modelo roda em uma única GPU compatível. Pode ser pós-treinado com NVIDIA NeMo para ferramentas, fluxos de trabalho e políticas específicas de domínio, e as organizações mantêm o controle dos pesos após o pós-treinamento. A NVIDIA também lançou o NeMo Switchyard, biblioteca de roteamento de modelos de código aberto que direciona etapas de fluxo de trabalho para modelos diferentes conforme custo, velocidade e requisitos da tarefa. A limitação declarada é ser um modelo somente texto.

Atualizado:

ID DO MODELO

nemotron-3.5-lightning:free
Contexto
1M
Saída máxima
65.536K
API recomendada
messages
Entrada
text
Saída
text

Destaques

  • Pesos abertos sob licença OpenMDW-1.1
  • Contexto de até 1 milhão de tokens
  • 30 bi de parâmetros, ~3 bi ativos por token
  • Arquitetura híbrida Mamba-2 e MoE
  • Decodificação especulativa DFlash
  • Roda em uma única GPU compatível

Provedores

1 provedores

Compare os preços de API entre provedores. Selecione um provedor para ver todos os preços e condições.

Provedor · Detalhes de preço
Disponibilidade
$0$0

Benchmarks

  • Taxa de não alucinação AA-Omniscience

    Artificial Analysis

    64.3%
  • Padrões excessivos eliminados

    percentual, testes de adaptação de domínio

    66.4%
  • Riqueza de vocabulário

    percentual da linha de base, testes de adaptação de domínio

    98.4%
  • Acurácia de validação no ajuste fino de visão

    antes do ajuste fino, estudo de caso de empresa

    20%
  • Acurácia de validação no ajuste fino de visão

    após o ajuste fino, estudo de caso de empresa

    58%

Pontuações conforme publicadas pelo fornecedor do modelo.

Raciocínio

Sempre ativado
Não

Início rápido

Código pronto para chamar este modelo com as APIs compatíveis da Felo API Platform. Comece no Playground quando quiser testar prompts antes de escrever código.

1

Defina sua chave de API

Crie uma chave na sua conta da Felo API Platform e defina-a como variável de ambiente.

export FELO_API_KEY="YOUR_API_KEY"
2

Faça sua primeira requisição

Use este ID de modelo com o endpoint da Felo API Platform. Cabeçalhos opcionais como X-Request-Id ajudam a solucionar problemas.

nemotron-3.5-lightning:free

Este modelo tem capacidade de raciocínio. Se o protocolo selecionado e a rota do modelo expuserem controles de raciocínio, preserve os metadados de raciocínio retornados ao continuar a conversa.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Usar SDKs de terceiros

Em SDKs compatíveis, defina baseURL como https://openapi.felo.ai/api/v1. Para clientes no estilo Claude, use a base URL compatível com Anthropic. https://openapi.felo.ai/api.

3

Ative o streaming

Adicione stream: true para receber respostas como server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

A Felo API Platform expõe superfícies compatíveis de chamada de modelos. Escolha a superfície que seu app ou cliente de agente já suporta.

SurfaceMethodURL

Messages

Mensagens compatíveis com Anthropic para clientes no estilo Claude.

POST

https://openapi.felo.ai/api/v1/messages

Parâmetros

NomeTipoPadrãoDescrição
modelstringnemotron-3.5-lightning:freeID público do modelo a chamar.
max_tokensinteger—Número máximo de tokens gerados.
messagesarray—Mensagens da conversa para Chat Completions.
seed———
toolsarray—Definições de tool calling seguindo o schema compatível.
top_p———
reasoning———
temperaturenumber—Controla a variedade das respostas quando compatível.
tool_choicestring or object—Controla se uma ferramenta deve ser chamada.
include_reasoning———

Perguntas frequentes

O que é Nemotron 3.5 Lightning (free)?

O Nemotron 3.5 Lightning é um modelo da NVIDIA com pesos abertos, apenas para texto, baseado em uma arquitetura híbrida de mistura de especialistas que intercala camadas Mamba-2, camadas MoE e camadas de atenção seletivas. São 30 bilhões de parâmetros totais, com aproximadamente 3 bilhões de parâmetros ativos por token, o que o coloca na faixa de modelos densos muito maiores em termos de desempenho, mas com cerca de um quarto da contagem total de parâmetros. Ele foi destilado do Nemotron 3 Ultra, o modelo de fronteira da NVIDIA, e incorpora decodificação especulativa DFlash para reduzir a latência por token. O modelo foi projetado para a camada de execução de cargas de trabalho agênticas de longa duração e treinado para uso de ferramentas em harnesses populares como OpenClaw e Hermes Agent. Segundo a NVIDIA, entrega até 4x mais vazão e até 30% mais rapidez na conclusão de tarefas em cargas agênticas de alto volume, em comparação com outros modelos abertos líderes de tamanho semelhante. Um teste independente registrou vantagem de 4,9x em vazão e de 4,9x em tempo até o primeiro token em três perfis, de contexto curto a longo. Com contexto de até 1 milhão de tokens, atende desde agentes pessoais que gerenciam e-mail, agenda e reservas até extração de dados em serviços financeiros, triagem de alertas de segurança, atendimento e suporte ao cliente. A distribuição é feita sob a licença OpenMDW-1.1, com pesos, dados de treinamento e receitas disponíveis para download, e o modelo roda em uma única GPU compatível. Pode ser pós-treinado com NVIDIA NeMo para ferramentas, fluxos de trabalho e políticas específicas de domínio, e as organizações mantêm o controle dos pesos após o pós-treinamento. A NVIDIA também lançou o NeMo Switchyard, biblioteca de roteamento de modelos de código aberto que direciona etapas de fluxo de trabalho para modelos diferentes conforme custo, velocidade e requisitos da tarefa. A limitação declarada é ser um modelo somente texto.

Como o uso é cobrado?

Sua conta depende do provedor que você usa, dos preços dele e do seu uso. Entradas mais longas ou outras condições podem ter preços diferentes.

Quais tipos de entrada o Nemotron 3.5 Lightning aceita?

Ele aceita entrada de texto e produz saída de texto. É um modelo somente texto, sem suporte a imagens ou áudio.

Qual é o tamanho do contexto e do limite de saída?

O contexto chega a até 1 milhão de tokens. O limite de saída não foi especificado nos materiais disponíveis.

Para que tipo de tarefa ele foi feito?

Para a camada de execução de cargas agênticas de longa duração, incluindo uso de ferramentas, atendimento ao cliente, extração de documentos, triagem de alertas e assistência a código.

Como ele se diferencia do Nemotron 3 Ultra?

O Nemotron 3.5 Lightning foi destilado do Nemotron 3 Ultra, o modelo de fronteira da NVIDIA, e é posicionado como o motor de execução especializado de alto volume dentro de uma abordagem de sistema de modelos.

É possível adaptar o modelo a um domínio específico?

Sim. Ele pode ser pós-treinado com NVIDIA NeMo para ferramentas, fluxos de trabalho e políticas específicas, e as organizações mantêm o controle dos pesos após o pós-treinamento.

Em quais canais ele está disponível?

Entre os canais citados estão Amazon SageMaker JumpStart, GMI Cloud, DeepInfra e OpenRouter.

Modelos relacionados