LFM3-1.7B API
LFM3-1.7B — це компактна текстова мовна модель від Liquid AI з 1,73 млрд параметрів, контекстом на 256K токенів і вбудованою підтримкою структурованого виклику інструментів, призначена для локальних агентів на телефонах і ноутбуках.
LFM3-1.7B — це модель із 1,73 млрд параметрів, яка за 4-бітного квантування займає приблизно 1 ГБ пам'яті та працює локально на телефонах і ноутбуках без дискретного GPU. Вона побудована на тригібридній архітектурі з 24 шарів, що поєднує 13 керованих коротких згорткових шарів, 5 шарів уваги з ковзним вікном і 6 шарів глобальної уваги. Словник моделі налічує 128 000 токенів і охоплює 16 мов.
Модель навчено на 22 трильйонах токенів, що відповідає співвідношенню токенів до параметрів приблизно 12 717 разів. Вона перевершує попередню модель LFM2.5 з 2,6 млрд параметрів, використовуючи на 35% менше параметрів. В агентних оцінюваннях модель використовувала на 58% менше токенів на завдання та застрягала менш ніж у 1% спроб, тоді як конкуруюча модель — у 15%. Контекстне вікно на 256K токенів, яке охоплює як вхід, так і вихід, є незвично великим для моделі такого розміру.
LFM3-1.7B добре підходить для локальних агентів, структурованого виклику інструментів, швидкого донавчання на одному GPU під конкретну предметну область, запитань із залученням пошуку чи витягу, а також для класифікації запитів клієнтів, вилучення інформації з документів і маршрутизації звернень. Модель не рекомендується для агентного програмування чи складних багатокрокових міркувань, а для запитань, що потребують глибоких знань про світ, її слід поєднувати з пошуком або витягом. Вона доступна у шести форматах, зокрема GGUF, MLX, ONNX, BF16, FP8 і NVFP4.
Оновлено:
MODEL ID
lfm-3-1.7b- Контекст
- 262.144K
- Макс. вихід
- 8.192K
- Рекомендований API
- messages
- Вхід
- text
- Вихід
- text
Ключові можливості
- 1,73 млрд параметрів, приблизно 1 ГБ пам'яті за 4-бітного квантування
- Контекстне вікно на 256K токенів для входу та виходу
- Тригібридна архітектура з 24 шарів
- Вбудований структурований виклик інструментів
- Шість форматів випуску: GGUF, MLX, ONNX, BF16, FP8, NVFP4
- Швидке донавчання на одному GPU
Постачальники
Порівняйте ціни API у різних постачальників. Виберіть постачальника, щоб переглянути всі тарифи й умови.
| Доступність | ||||
|---|---|---|---|---|
| $0.08 | $0.2 | $0.02 |
Історична статистика не є перевіркою наживо. Відсутність даних не означає збій.
Що можна купити за $10
- Вхід
- 125 млн токенів
- Вихід
- 50 млн токенів
Оцінка за поточними цінами входу й виходу, без урахування знижок.
Міркування
- Завжди ввімкнено
- Так
Швидкий старт
Готовий код для виклику цієї моделі через сумісні API Felo API Platform. Почніть у Playground, якщо хочете перевірити промпти перед написанням коду.
Отримайте API-ключ
Створіть ключ у своєму обліковому записі Felo API Platform і встановіть його як змінну середовища.
export FELO_API_KEY="YOUR_API_KEY"Зробіть перший запит
Використовуйте цей ідентифікатор моделі з endpoint Felo API Platform. Необов'язкові заголовки запиту, як-от X-Request-Id, можуть допомогти з діагностикою.
lfm-3-1.7bЦя модель підтримує міркування. Якщо вибраний протокол і маршрут моделі надають елементи керування міркуванням, зберігайте повернені метадані міркування під час продовження розмови.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Використання сторонніх SDK
Використовуйте сумісні SDK, встановивши baseURL на https://openapi.felo.ai/api/v1. Для клієнтів у стилі Claude використовуйте базовий URL, сумісний з Anthropic. https://openapi.felo.ai/api.
Увімкніть стрімінг
Додайте stream: true, щоб отримувати відповіді як server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform надає сумісні поверхні виклику моделей. Виберіть ту, яку ваш застосунок або клієнт-агент уже підтримує.
Messages
Повідомлення, сумісні з Anthropic, для клієнтів у стилі Claude.
POST
https://openapi.felo.ai/api/v1/messagesПараметри
modelstringlfm-3-1.7bПублічний ідентифікатор моделі для виклику.max_tokensinteger—Максимальна кількість згенерованих токенів.messagesarray—Повідомлення розмови для Chat Completions.seed———stop———min_p———toolsarray—Визначення виклику інструментів за сумісною схемою.top_k———top_p———logprobs———reasoning———temperaturenumber—Керує різноманітністю відповідей, якщо підтримується.tool_choicestring or object—Керує тим, чи слід викликати інструмент.top_logprobs———response_formatobject—Запитує структурований вихід, якщо підтримується.presence_penalty———frequency_penalty———include_reasoning———repetition_penalty———structured_outputs———max_completion_tokens———Часті запитання
Що таке LFM3-1.7B?
LFM3-1.7B — це модель із 1,73 млрд параметрів, яка за 4-бітного квантування займає приблизно 1 ГБ пам'яті та працює локально на телефонах і ноутбуках без дискретного GPU. Вона побудована на тригібридній архітектурі з 24 шарів, що поєднує 13 керованих коротких згорткових шарів, 5 шарів уваги з ковзним вікном і 6 шарів глобальної уваги. Словник моделі налічує 128 000 токенів і охоплює 16 мов. Модель навчено на 22 трильйонах токенів, що відповідає співвідношенню токенів до параметрів приблизно 12 717 разів. Вона перевершує попередню модель LFM2.5 з 2,6 млрд параметрів, використовуючи на 35% менше параметрів. В агентних оцінюваннях модель використовувала на 58% менше токенів на завдання та застрягала менш ніж у 1% спроб, тоді як конкуруюча модель — у 15%. Контекстне вікно на 256K токенів, яке охоплює як вхід, так і вихід, є незвично великим для моделі такого розміру. LFM3-1.7B добре підходить для локальних агентів, структурованого виклику інструментів, швидкого донавчання на одному GPU під конкретну предметну область, запитань із залученням пошуку чи витягу, а також для класифікації запитів клієнтів, вилучення інформації з документів і маршрутизації звернень. Модель не рекомендується для агентного програмування чи складних багатокрокових міркувань, а для запитань, що потребують глибоких знань про світ, її слід поєднувати з пошуком або витягом. Вона доступна у шести форматах, зокрема GGUF, MLX, ONNX, BF16, FP8 і NVFP4.
Як нараховується оплата за використання?
Рахунок залежить від обраного постачальника, його цін і вашого використання. Довші вхідні дані або інші умови можуть мати інші ціни.
Які модальності підтримує LFM3-1.7B?
Модель приймає текстові вхідні дані та генерує текстові вихідні дані.
Яке контекстне вікно та обмеження вихідних даних?
Контекстне вікно становить 256K токенів і охоплює як вхідні, так і вихідні дані. Окремого обмеження на довжину вихідних даних не вказано.
Чи підходить модель для агентного програмування?
Ні, модель явно не рекомендується для агентного програмування та складних багатокрокових міркувань. Автономні агенти розробки програмного забезпечення та довгі ланцюжки логічних висновків виключені.
Чи можна запускати LFM3-1.7B локально?
Так, модель працює локально на телефонах і ноутбуках без дискретного GPU. За 4-бітного квантування вона займає приблизно 1 ГБ пам'яті.
Чим LFM3-1.7B відрізняється від попередньої LFM2.5?
LFM3-1.7B перевершує попередню модель LFM2.5 з 2,6 млрд параметрів, використовуючи на 35% менше параметрів.
Чи підтримує модель структурований виклик інструментів?
Так, модель має вбудовану підтримку структурованого виклику інструментів і механізм відкладеного пошуку інструментів для роботи з великими каталогами.