Felo API PlatformFelo API Platform
Назад к моделям
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

Nemotron 3.5 — открытая тексто-ориентированная MoE-модель NVIDIA, созданная для высоконагруженных агентных задач и работы с длинным контекстом.

Nemotron 3.5 Lightning — открытая тексто-ориентированная модель NVIDIA с гибридной архитектурой Mixture-of-Experts: слои Mamba-2 чередуются со слоями MoE и отдельными слоями внимания. При30 млрд общих параметров на каждый токен активируется около 3 млрд, что позволяет модели соответствовать или приближаться к более крупным плотным моделям при примерно четверти их общего числа параметров. Модель дистиллирована из Nemotron 3 Ultra и использует спекулятивное декодирование DFlash для снижения задержки на токен. Контекст — до 1 миллиона токенов, веса, данные обучения и рецепты доступны по лицензии OpenMDW-1.1; после посттренировки через NVIDIA NeMo права на веса остаются у организации.

Модель рассчитана на исполнительный слой долгоживущих агентных систем: она обучена использованию инструментов в популярных агентных средах, включая OpenClaw и Hermes Agent. Подходит для персональных агентов, управляющих почтой, календарём и бронированиями; для извлечения данных из финансовых документов, проверки правил и мониторинга рисков; для обогащения оповещений и классификации инцидентов в кибербезопасности; для триажа аварийных сигналов и ответов на вопросы по биллингу в телекоме; для обогащения товарных каталогов и разбора исключений в ритейле; для ассистентов, проверяющих pull request'ы, а также для агентов поддержки и биллинга. Модель работает на одном поддерживаемом GPU.

Обновлено:

MODEL ID

nemotron-3.5-lightning:free
Контекст
1M
Макс. вывод
65.536K
Рекомендуемый API
messages
Вход
text
Выход
text

Ключевые возможности

  • Гибридная архитектура MoE с Mamba-2
  • 30 млрд параметров, ~3 млрд активных на токен
  • Контекст до 1 млн токенов
  • Спекулятивное декодирование DFlash
  • Открытые веса по лицензии OpenMDW-1.1
  • Работает на одном GPU

Поставщики

1 поставщиков

Сравните цены API у разных поставщиков. Выберите поставщика, чтобы посмотреть все тарифы и условия.

Поставщик · Подробности оплаты
Доступность
$0$0

Бенчмарки

  • AA-Omniscience Non-Hallucination Rate

    Artificial Analysis

    64.3%
  • Доля устранённых избыточных шаблонов

    тестирование доменной адаптации, в процентах

    66.4%
  • Богатство словаря

    процент от базового уровня, тестирование доменной адаптации

    98.4%
  • Точность валидации при дообучении на изображениях

    до дообучения, кейс компании

    20%
  • Точность валидации при дообучении на изображениях

    после дообучения, кейс компании

    58%

Результаты опубликованы производителем модели.

Рассуждения

Всегда включены
Нет

Quick Start

Готовый код для вызова этой модели через compatible APIs Felo API Platform. Используйте Playground, чтобы проверить prompts до написания кода.

1

Добавьте API key

Создайте key в аккаунте Felo API Platform и задайте его как environment variable.

export FELO_API_KEY="YOUR_API_KEY"
2

Первый запрос

Используйте этот model ID с endpoint Felo API Platform. Дополнительные request headers, например X-Request-Id, помогают troubleshooting.

nemotron-3.5-lightning:free

Эта модель поддерживает reasoning. Если выбранный protocol и model route дают reasoning controls, сохраняйте returned reasoning metadata при продолжении conversation.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Сторонние SDK

В compatible SDK установите baseURL на https://openapi.felo.ai/api/v1. Для Claude-style clients используйте Anthropic-compatible base URL. https://openapi.felo.ai/api.

3

Включить streaming

Добавьте stream: true, чтобы получать responses как server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform предоставляет compatible model-calling surfaces. Выберите surface, который уже поддерживает ваше app или agent client.

SurfaceMethodURL

Messages

Anthropic-compatible messages for Claude-style clients.

POST

https://openapi.felo.ai/api/v1/messages

Parameters

ИмяТипПо умолчаниюОписание
modelstringnemotron-3.5-lightning:freeПубличный model ID для вызова.
max_tokensinteger—Максимальное число generated tokens.
messagesarray—Сообщения conversation для Chat Completions.
seed———
toolsarray—Tool calling definitions по compatible schema.
top_p———
reasoning———
temperaturenumber—Управляет вариативностью ответа, если поддерживается.
tool_choicestring or object—Управляет тем, нужно ли вызвать tool.
include_reasoning———

Частые вопросы

О модели Nemotron 3.5 Lightning (free)?

Nemotron 3.5 Lightning — открытая тексто-ориентированная модель NVIDIA с гибридной архитектурой Mixture-of-Experts: слои Mamba-2 чередуются со слоями MoE и отдельными слоями внимания. При30 млрд общих параметров на каждый токен активируется около 3 млрд, что позволяет модели соответствовать или приближаться к более крупным плотным моделям при примерно четверти их общего числа параметров. Модель дистиллирована из Nemotron 3 Ultra и использует спекулятивное декодирование DFlash для снижения задержки на токен. Контекст — до 1 миллиона токенов, веса, данные обучения и рецепты доступны по лицензии OpenMDW-1.1; после посттренировки через NVIDIA NeMo права на веса остаются у организации. Модель рассчитана на исполнительный слой долгоживущих агентных систем: она обучена использованию инструментов в популярных агентных средах, включая OpenClaw и Hermes Agent. Подходит для персональных агентов, управляющих почтой, календарём и бронированиями; для извлечения данных из финансовых документов, проверки правил и мониторинга рисков; для обогащения оповещений и классификации инцидентов в кибербезопасности; для триажа аварийных сигналов и ответов на вопросы по биллингу в телекоме; для обогащения товарных каталогов и разбора исключений в ритейле; для ассистентов, проверяющих pull request'ы, а также для агентов поддержки и биллинга. Модель работает на одном поддерживаемом GPU.

Как рассчитывается стоимость?

Стоимость зависит от выбранного поставщика, его цен и вашего использования. Для длинных запросов могут действовать другие цены — смотрите подробности.

Какие типы входных и выходных данных поддерживает модель?

Модель принимает только текст и возвращает только текст.

Каков размер контекста?

Контекст — до 1 миллиона токенов.

Для каких задач модель предназначена?

Для исполнительного слоя долгоживущих агентных нагрузок: использования инструментов, извлечения данных, классификации инцидентов, поддержки клиентов и код-ревью.

Как модель соотносится с другими моделями серии Nemotron 3?

Lightning — специализированный высоконагруженный исполнительный движок, дистиллированный из более крупной Nemotron 3 Ultra.

Можно ли дообучить модель под свои задачи?

Да, с помощью NVIDIA NeMo можно дообучить модель под доменные инструменты, рабочие процессы и политики, сохранив контроль над весами.

Связанные модели