Nemotron 3.5 Lightning (free) API
NVIDIA Nemotron 3.5 Lightning — відкрита текстова модель із гібридною архітектурою Mixture-of-Experts, створена для швидкого виконання спеціалізованих завдань у довготривалих агентних робочих процесах.
NVIDIA Nemotron 3.5 Lightning — це відкрита текстова модель із гібридною архітектурою Mixture-of-Experts, яка чергує шари Mamba-2, шари MoE та окремі шари уваги. Вона дистильована з фронтирної моделі NVIDIA Nemotron 3 Ultra і містить 30 мільярдів загальних параметрів, з яких приблизно 3 мільярди активуються на кожен токен. Модель навчена для агентного використання інструментів у популярних агентних середовищах, таких як OpenClaw і Hermes Agent, і використовує спекулятивне декодування DFlash для зменшення затримки на токен. Вона постачається з відкритими вагами, тренувальними даними та рецептами за ліцензією OpenMDW-1.1.
Модель орієнтована на виконавчий рівень довготривалих агентних навантажень: персональні агенти для керування поштою, календарем і бронюваннями, витягування даних із фінансових документів, перевірка політик і моніторинг ризиків, збагачення оповіщень у кібербезпеці, тріаж телекомунікаційних аварій, збагачення товарних каталогів, а також асистенти для перегляду пул-реквестів і підтримки клієнтів. Завдяки підтримці контексту до 1 мільйона токенів вона підходить для завдань, що потребують обробки великих обсягів тексту.
За даними незалежного тесту, модель забезпечує до 4,9 раза вищу пропускну здатність і до 4,9 раза кращий час до першого токена в трьох профілях — від короткого до довгого контексту. Порівняно з іншими провідними відкритими моделями схожого розміру вона демонструє до 4 разів вищу пропускну здатність і до 30% швидше завершення завдань на високонавантажених агентних робочих процесах. Модель можна донавчати за допомогою NVIDIA NeMo для доменних інструментів, робочих процесів і політик, зберігаючи контроль над вагами.
Оновлено:
MODEL ID
nemotron-3.5-lightning:free- Контекст
- 1M
- Макс. вихід
- 65.536K
- Рекомендований API
- messages
- Вхід
- text
- Вихід
- text
Ключові можливості
- Гібридна архітектура MoE з Mamba-2
- Контекст до 1 мільйона токенів
- 30 млрд параметрів, ~3 млрд активних
- Спекулятивне декодування DFlash
- Відкриті ваги за ліцензією OpenMDW-1.1
- Донавчання через NVIDIA NeMo
Постачальники
Порівняйте ціни API у різних постачальників. Виберіть постачальника, щоб переглянути всі тарифи й умови.
| Доступність | |||
|---|---|---|---|
| $0 | $0 |
Історична статистика не є перевіркою наживо. Відсутність даних не означає збій.
Бенчмарки
- 64.3%
Рівень відсутності галюцинацій AA-Omniscience
За даними Artificial Analysis
- 66.4%
Частка усунених надмірно вживаних шаблонів
Відсоток, тестування доменної адаптації
- 98.4%
Багатство словникового запасу
Відсоток від базового рівня, тестування доменної адаптації
- 20%
Точність валідації після донавчання для зору
До донавчання, кейс компанії
- 58%
Точність валідації після донавчання для зору
Після донавчання, кейс компанії
Результати за публікацією постачальника моделі.
Міркування
- Завжди ввімкнено
- Ні
Швидкий старт
Готовий код для виклику цієї моделі через сумісні API Felo API Platform. Почніть у Playground, якщо хочете перевірити промпти перед написанням коду.
Отримайте API-ключ
Створіть ключ у своєму обліковому записі Felo API Platform і встановіть його як змінну середовища.
export FELO_API_KEY="YOUR_API_KEY"Зробіть перший запит
Використовуйте цей ідентифікатор моделі з endpoint Felo API Platform. Необов'язкові заголовки запиту, як-от X-Request-Id, можуть допомогти з діагностикою.
nemotron-3.5-lightning:freeЦя модель підтримує міркування. Якщо вибраний протокол і маршрут моделі надають елементи керування міркуванням, зберігайте повернені метадані міркування під час продовження розмови.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Використання сторонніх SDK
Використовуйте сумісні SDK, встановивши baseURL на https://openapi.felo.ai/api/v1. Для клієнтів у стилі Claude використовуйте базовий URL, сумісний з Anthropic. https://openapi.felo.ai/api.
Увімкніть стрімінг
Додайте stream: true, щоб отримувати відповіді як server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "nemotron-3.5-lightning:free",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform надає сумісні поверхні виклику моделей. Виберіть ту, яку ваш застосунок або клієнт-агент уже підтримує.
Messages
Повідомлення, сумісні з Anthropic, для клієнтів у стилі Claude.
POST
https://openapi.felo.ai/api/v1/messagesПараметри
modelstringnemotron-3.5-lightning:freeПублічний ідентифікатор моделі для виклику.max_tokensinteger—Максимальна кількість згенерованих токенів.messagesarray—Повідомлення розмови для Chat Completions.seed———toolsarray—Визначення виклику інструментів за сумісною схемою.top_p———reasoning———temperaturenumber—Керує різноманітністю відповідей, якщо підтримується.tool_choicestring or object—Керує тим, чи слід викликати інструмент.include_reasoning———Часті запитання
Що таке Nemotron 3.5 Lightning (free)?
NVIDIA Nemotron 3.5 Lightning — це відкрита текстова модель із гібридною архітектурою Mixture-of-Experts, яка чергує шари Mamba-2, шари MoE та окремі шари уваги. Вона дистильована з фронтирної моделі NVIDIA Nemotron 3 Ultra і містить 30 мільярдів загальних параметрів, з яких приблизно 3 мільярди активуються на кожен токен. Модель навчена для агентного використання інструментів у популярних агентних середовищах, таких як OpenClaw і Hermes Agent, і використовує спекулятивне декодування DFlash для зменшення затримки на токен. Вона постачається з відкритими вагами, тренувальними даними та рецептами за ліцензією OpenMDW-1.1. Модель орієнтована на виконавчий рівень довготривалих агентних навантажень: персональні агенти для керування поштою, календарем і бронюваннями, витягування даних із фінансових документів, перевірка політик і моніторинг ризиків, збагачення оповіщень у кібербезпеці, тріаж телекомунікаційних аварій, збагачення товарних каталогів, а також асистенти для перегляду пул-реквестів і підтримки клієнтів. Завдяки підтримці контексту до 1 мільйона токенів вона підходить для завдань, що потребують обробки великих обсягів тексту. За даними незалежного тесту, модель забезпечує до 4,9 раза вищу пропускну здатність і до 4,9 раза кращий час до першого токена в трьох профілях — від короткого до довгого контексту. Порівняно з іншими провідними відкритими моделями схожого розміру вона демонструє до 4 разів вищу пропускну здатність і до 30% швидше завершення завдань на високонавантажених агентних робочих процесах. Модель можна донавчати за допомогою NVIDIA NeMo для доменних інструментів, робочих процесів і політик, зберігаючи контроль над вагами.
Як нараховується оплата за використання?
Рахунок залежить від обраного постачальника, його цін і вашого використання. Довші вхідні дані або інші умови можуть мати інші ціни.
Які типи вхідних і вихідних даних підтримує модель?
Модель підтримує лише текстовий ввід і текстовий вивід. Вона не призначена для зображень, аудіо чи інших модальностей.
Який максимальний обсяг контексту?
Модель підтримує контекст до 1 мільйона токенів. Обмеження на довжину виводу в наданих даних не вказано.
Для яких завдань найкраще підходить Nemotron 3.5 Lightning?
Вона створена для виконавчого рівня довготривалих агентних навантажень: персональних агентів, фінансових документів, кібербезпеки, телекомунікацій, роздрібної торгівлі, асистентів для коду та підтримки клієнтів.
Чим ця модель відрізняється від інших моделей серії Nemotron?
Nemotron 3.5 Lightning дистильована з фронтирної Nemotron 3 Ultra і позиціонується як спеціалізований високопродуктивний виконавчий двигун у підході системи моделей. Вона має 30 мільярдів загальних параметрів, з яких приблизно 3 мільярди активні на токен.
Чи можна донавчати модель на власних даних?
Так, модель можна донавчати за допомогою NVIDIA NeMo для доменних інструментів, робочих процесів і політик. Після донавчання організації зберігають контроль над вагами.
Схожі моделі
Nemotron 3.5 Super VL (free)
NVIDIAnemotron-3.5-super-vl:freeNVIDIA Nemotron 3.5 Super VL — мультимодальна модель із 120 млрд параметрів (12 млрд активних), що поєднує розуміння зображень, відео й документів із міркуваннями та викликом інструментів.
Контекст
1M
Макс. вихід
131.072K
Вхідні токени
$0 / 1M токенів
Вихідні токени
$0 / 1M токенів
Nemotron 3 Ultra (free)
NVIDIAnemotron-3-ultra-550b-a55b:freeNVIDIA Nemotron 3 Ultra — відкрита модель міркування та оркестрації з архітектурою гібридною Transformer-Mamba та 550 млрд параметрів, створена для агентів і досліджень.
Контекст
1M
Макс. вихід
65.536K
Вхідні токени
$0 / 1M токенів
Вихідні токени
$0 / 1M токенів