Felo API PlatformFelo API Platform
Назад до моделей
NVIDIAmessages

Nemotron 3.5 Lightning (free) API

NVIDIA Nemotron 3.5 Lightning — відкрита текстова модель із гібридною архітектурою Mixture-of-Experts, створена для швидкого виконання спеціалізованих завдань у довготривалих агентних робочих процесах.

NVIDIA Nemotron 3.5 Lightning — це відкрита текстова модель із гібридною архітектурою Mixture-of-Experts, яка чергує шари Mamba-2, шари MoE та окремі шари уваги. Вона дистильована з фронтирної моделі NVIDIA Nemotron 3 Ultra і містить 30 мільярдів загальних параметрів, з яких приблизно 3 мільярди активуються на кожен токен. Модель навчена для агентного використання інструментів у популярних агентних середовищах, таких як OpenClaw і Hermes Agent, і використовує спекулятивне декодування DFlash для зменшення затримки на токен. Вона постачається з відкритими вагами, тренувальними даними та рецептами за ліцензією OpenMDW-1.1.

Модель орієнтована на виконавчий рівень довготривалих агентних навантажень: персональні агенти для керування поштою, календарем і бронюваннями, витягування даних із фінансових документів, перевірка політик і моніторинг ризиків, збагачення оповіщень у кібербезпеці, тріаж телекомунікаційних аварій, збагачення товарних каталогів, а також асистенти для перегляду пул-реквестів і підтримки клієнтів. Завдяки підтримці контексту до 1 мільйона токенів вона підходить для завдань, що потребують обробки великих обсягів тексту.

За даними незалежного тесту, модель забезпечує до 4,9 раза вищу пропускну здатність і до 4,9 раза кращий час до першого токена в трьох профілях — від короткого до довгого контексту. Порівняно з іншими провідними відкритими моделями схожого розміру вона демонструє до 4 разів вищу пропускну здатність і до 30% швидше завершення завдань на високонавантажених агентних робочих процесах. Модель можна донавчати за допомогою NVIDIA NeMo для доменних інструментів, робочих процесів і політик, зберігаючи контроль над вагами.

ОбмеженоБезкоштовний пробний період

Оновлено:

MODEL ID

nemotron-3.5-lightning:free
Контекст
1M
Макс. вихід
65.536K
Рекомендований API
messages
Вхід
text
Вихід
text

Ключові можливості

  • Гібридна архітектура MoE з Mamba-2
  • Контекст до 1 мільйона токенів
  • 30 млрд параметрів, ~3 млрд активних
  • Спекулятивне декодування DFlash
  • Відкриті ваги за ліцензією OpenMDW-1.1
  • Донавчання через NVIDIA NeMo

Постачальники

1 постачальників

Порівняйте ціни API у різних постачальників. Виберіть постачальника, щоб переглянути всі тарифи й умови.

Постачальник · Деталі тарифів
Доступність
$0$0

Бенчмарки

  • Рівень відсутності галюцинацій AA-Omniscience

    За даними Artificial Analysis

    64.3%
  • Частка усунених надмірно вживаних шаблонів

    Відсоток, тестування доменної адаптації

    66.4%
  • Багатство словникового запасу

    Відсоток від базового рівня, тестування доменної адаптації

    98.4%
  • Точність валідації після донавчання для зору

    До донавчання, кейс компанії

    20%
  • Точність валідації після донавчання для зору

    Після донавчання, кейс компанії

    58%

Результати за публікацією постачальника моделі.

Міркування

Завжди ввімкнено
Ні

Швидкий старт

Готовий код для виклику цієї моделі через сумісні API Felo API Platform. Почніть у Playground, якщо хочете перевірити промпти перед написанням коду.

1

Отримайте API-ключ

Створіть ключ у своєму обліковому записі Felo API Platform і встановіть його як змінну середовища.

export FELO_API_KEY="YOUR_API_KEY"
2

Зробіть перший запит

Використовуйте цей ідентифікатор моделі з endpoint Felo API Platform. Необов'язкові заголовки запиту, як-от X-Request-Id, можуть допомогти з діагностикою.

nemotron-3.5-lightning:free

Ця модель підтримує міркування. Якщо вибраний протокол і маршрут моделі надають елементи керування міркуванням, зберігайте повернені метадані міркування під час продовження розмови.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Використання сторонніх SDK

Використовуйте сумісні SDK, встановивши baseURL на https://openapi.felo.ai/api/v1. Для клієнтів у стилі Claude використовуйте базовий URL, сумісний з Anthropic. https://openapi.felo.ai/api.

3

Увімкніть стрімінг

Додайте stream: true, щоб отримувати відповіді як server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "nemotron-3.5-lightning:free",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform надає сумісні поверхні виклику моделей. Виберіть ту, яку ваш застосунок або клієнт-агент уже підтримує.

ПоверхняМетодURL

Messages

Повідомлення, сумісні з Anthropic, для клієнтів у стилі Claude.

POST

https://openapi.felo.ai/api/v1/messages

Параметри

НазваТипЗа замовчуваннямОпис
modelstringnemotron-3.5-lightning:freeПублічний ідентифікатор моделі для виклику.
max_tokensinteger—Максимальна кількість згенерованих токенів.
messagesarray—Повідомлення розмови для Chat Completions.
seed———
toolsarray—Визначення виклику інструментів за сумісною схемою.
top_p———
reasoning———
temperaturenumber—Керує різноманітністю відповідей, якщо підтримується.
tool_choicestring or object—Керує тим, чи слід викликати інструмент.
include_reasoning———

Часті запитання

Що таке Nemotron 3.5 Lightning (free)?

NVIDIA Nemotron 3.5 Lightning — це відкрита текстова модель із гібридною архітектурою Mixture-of-Experts, яка чергує шари Mamba-2, шари MoE та окремі шари уваги. Вона дистильована з фронтирної моделі NVIDIA Nemotron 3 Ultra і містить 30 мільярдів загальних параметрів, з яких приблизно 3 мільярди активуються на кожен токен. Модель навчена для агентного використання інструментів у популярних агентних середовищах, таких як OpenClaw і Hermes Agent, і використовує спекулятивне декодування DFlash для зменшення затримки на токен. Вона постачається з відкритими вагами, тренувальними даними та рецептами за ліцензією OpenMDW-1.1. Модель орієнтована на виконавчий рівень довготривалих агентних навантажень: персональні агенти для керування поштою, календарем і бронюваннями, витягування даних із фінансових документів, перевірка політик і моніторинг ризиків, збагачення оповіщень у кібербезпеці, тріаж телекомунікаційних аварій, збагачення товарних каталогів, а також асистенти для перегляду пул-реквестів і підтримки клієнтів. Завдяки підтримці контексту до 1 мільйона токенів вона підходить для завдань, що потребують обробки великих обсягів тексту. За даними незалежного тесту, модель забезпечує до 4,9 раза вищу пропускну здатність і до 4,9 раза кращий час до першого токена в трьох профілях — від короткого до довгого контексту. Порівняно з іншими провідними відкритими моделями схожого розміру вона демонструє до 4 разів вищу пропускну здатність і до 30% швидше завершення завдань на високонавантажених агентних робочих процесах. Модель можна донавчати за допомогою NVIDIA NeMo для доменних інструментів, робочих процесів і політик, зберігаючи контроль над вагами.

Як нараховується оплата за використання?

Рахунок залежить від обраного постачальника, його цін і вашого використання. Довші вхідні дані або інші умови можуть мати інші ціни.

Які типи вхідних і вихідних даних підтримує модель?

Модель підтримує лише текстовий ввід і текстовий вивід. Вона не призначена для зображень, аудіо чи інших модальностей.

Який максимальний обсяг контексту?

Модель підтримує контекст до 1 мільйона токенів. Обмеження на довжину виводу в наданих даних не вказано.

Для яких завдань найкраще підходить Nemotron 3.5 Lightning?

Вона створена для виконавчого рівня довготривалих агентних навантажень: персональних агентів, фінансових документів, кібербезпеки, телекомунікацій, роздрібної торгівлі, асистентів для коду та підтримки клієнтів.

Чим ця модель відрізняється від інших моделей серії Nemotron?

Nemotron 3.5 Lightning дистильована з фронтирної Nemotron 3 Ultra і позиціонується як спеціалізований високопродуктивний виконавчий двигун у підході системи моделей. Вона має 30 мільярдів загальних параметрів, з яких приблизно 3 мільярди активні на токен.

Чи можна донавчати модель на власних даних?

Так, модель можна донавчати за допомогою NVIDIA NeMo для доменних інструментів, робочих процесів і політик. Після донавчання організації зберігають контроль над вагами.

Схожі моделі