LFM3-1.7B API
LiquidAI: LFM3-1.7B je malý jazykový model s 1,73 miliardy parametrů, kontextovým oknem 256K tokenů a tri-hybridní architekturou, určený pro lokální agenty na telefonech a noteboocích bez dedikované GPU.
LFM3-1.7B od Liquid AI je textový model s 1,73 miliardy parametrů, který v 4bitové kvantizaci zabírá přibližně 1 GB paměti. Díky tomu běží lokálně na telefonech a noteboocích bez dedikované GPU. Architektura je tri-hybridní: 24 vrstev kombinuje 13 gated short convolutions, 5 sliding-window attention vrstev a 6 globálních attention vrstev. Slovník má 128 000 tokenů a pokrývá 16 jazyků. Model byl trénován na 22 bilionech tokenů, což představuje poměr přibližně 12 717 tokenů na parametr.
Model je vyladěn pro agentní harnessy jako Hermes Agent, Pi a OpenClaw a má vestavěnou podporu strukturovaného volání nástrojů. Pro práci s velkými katalogy nástrojů nabízí mechanismus deferred tool search. Reasoning je ve výchozím nastavení zapnutý; parametr enable_thinking lze nastavit na False pro přímé odpovědi. Kontextové okno 256K tokenů pokrývá vstup i výstup a je neobvykle velké pro model této velikosti. Model lze rychle doladit na jedné GPU.
LFM3-1.7B se hodí pro lokální agenty na telefonech a noteboocích, volání nástrojů se strukturovanými výstupy, doladění pro specifické domény, otázky a odpovědi podložené vyhledáváním nebo retrievalem, klasifikaci požadavků, extrakci informací z dokumentů a směrování případů. Naopak není doporučen pro agentní kódování ani složité vícestupňové uvažování a nehodí se pro autonomní softwarové agenty či dlouhé řetězce logické dedukce. Nemá takové znalosti světa jako větší systémy, proto je vhodné jej kombinovat s retrievalem nebo vyhledáváním. Agentní evaluace vycházely z omezeného souboru 65 úloh a měly by být nezávisle reprodukovány. Model je vydán pod vlastní licencí LFM Open License v1.0, nikoli pod Apache nebo MIT; firmy s ročním obratem nad 10 milionů dolarů potřebují samostatnou komerční licenci a kvalifikované neziskové organizace jsou od komerční licence osvobozeny pro nekomerční nebo výzkumné použití.
Aktualizováno:
MODEL ID
lfm-3-1.7b- Kontext
- 262.144K
- Max. výstup
- 8.192K
- Doporučené API
- messages
- Vstup
- text
- Výstup
- text
Hlavní body
- 1,73 miliardy parametrů, v 4bitové kvantizaci ~1 GB paměti
- Tri-hybridní architektura s 24 vrstvami
- Kontextové okno 256K tokenů pro vstup i výstup
- Vestavěné strukturované volání nástrojů
- Běží lokálně bez dedikované GPU
- Rychlé doladění na jedné GPU
Poskytovatelé
Porovnejte ceny API u různých poskytovatelů. Vyberte poskytovatele a zobrazte všechny poplatky a podmínky.
| Dostupnost | ||||
|---|---|---|---|---|
| $0.08 | $0.2 | $0.02 |
Historická data nejsou kontrolou v reálném čase. Chybějící data neznamenají výpadek.
Co se dá pořídit za $10
- Vstup
- 125 mil. tokenů
- Výstup
- 50 mil. tokenů
Odhad z aktuálních cen vstupu a výstupu, před slevami.
Uvažování
- Vždy zapnuto
- Ano
Rychlý start
Kód připravený ke vložení pro volání tohoto modelu pomocí kompatibilních API Felo API Platform. Pokud chcete prompty vyzkoušet před psaním kódu, začněte v Playground.
Získejte API klíč
Vytvořte klíč ve svém účtu Felo API Platform a nastavte jej jako proměnnou prostředí.
export FELO_API_KEY="YOUR_API_KEY"Odešlete první požadavek
Použijte toto ID modelu s endpointem Felo API Platform. Volitelné hlavičky požadavku, jako X-Request-Id, mohou pomoci při řešení potíží.
lfm-3-1.7bTento model podporuje uvažování. Pokud zvolený protokol a trasa modelu nabízejí ovládací prvky uvažování, zachovejte vrácená metadata uvažování při pokračování konverzace.
const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
method: 'POST',
headers: {
Authorization: `Bearer ${process.env.FELO_API_KEY}`,
'Content-Type': 'application/json',
},
body: JSON.stringify({
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());Použití SDK třetích stran
Používejte kompatibilní SDK nastavením baseURL na https://openapi.felo.ai/api/v1. Pro klienty ve stylu Claude použijte base URL kompatibilní s Anthropic. https://openapi.felo.ai/api.
Zapněte streamování
Přidejte stream: true, abyste dostávali odpovědi jako server-sent events.
curl -N https://openapi.felo.ai/api/v1/messages \
-H "Authorization: Bearer $FELO_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "lfm-3-1.7b",
"max_tokens": 1024,
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"stream": true
}'Endpoint
Felo API Platform nabízí kompatibilní rozhraní pro volání modelů. Vyberte to, které vaše aplikace nebo klientský agent již podporuje.
Messages
Zprávy kompatibilní s Anthropic pro klienty ve stylu Claude.
POST
https://openapi.felo.ai/api/v1/messagesParametry
modelstringlfm-3-1.7bVeřejné ID modelu pro volání.max_tokensinteger—Maximální počet generovaných tokenů.messagesarray—Zprávy konverzace pro Chat Completions.seed———stop———min_p———toolsarray—Definice volání nástrojů podle kompatibilního schématu.top_k———top_p———logprobs———reasoning———temperaturenumber—Řídí různorodost odpovědí, pokud je podporováno.tool_choicestring or object—Řídí, zda má být nástroj zavolán.top_logprobs———response_formatobject—Vyžádá strukturovaný výstup, pokud je podporován.presence_penalty———frequency_penalty———include_reasoning———repetition_penalty———structured_outputs———max_completion_tokens———Časté dotazy
Co je LFM3-1.7B?
LFM3-1.7B od Liquid AI je textový model s 1,73 miliardy parametrů, který v 4bitové kvantizaci zabírá přibližně 1 GB paměti. Díky tomu běží lokálně na telefonech a noteboocích bez dedikované GPU. Architektura je tri-hybridní: 24 vrstev kombinuje 13 gated short convolutions, 5 sliding-window attention vrstev a 6 globálních attention vrstev. Slovník má 128 000 tokenů a pokrývá 16 jazyků. Model byl trénován na 22 bilionech tokenů, což představuje poměr přibližně 12 717 tokenů na parametr. Model je vyladěn pro agentní harnessy jako Hermes Agent, Pi a OpenClaw a má vestavěnou podporu strukturovaného volání nástrojů. Pro práci s velkými katalogy nástrojů nabízí mechanismus deferred tool search. Reasoning je ve výchozím nastavení zapnutý; parametr enable_thinking lze nastavit na False pro přímé odpovědi. Kontextové okno 256K tokenů pokrývá vstup i výstup a je neobvykle velké pro model této velikosti. Model lze rychle doladit na jedné GPU. LFM3-1.7B se hodí pro lokální agenty na telefonech a noteboocích, volání nástrojů se strukturovanými výstupy, doladění pro specifické domény, otázky a odpovědi podložené vyhledáváním nebo retrievalem, klasifikaci požadavků, extrakci informací z dokumentů a směrování případů. Naopak není doporučen pro agentní kódování ani složité vícestupňové uvažování a nehodí se pro autonomní softwarové agenty či dlouhé řetězce logické dedukce. Nemá takové znalosti světa jako větší systémy, proto je vhodné jej kombinovat s retrievalem nebo vyhledáváním. Agentní evaluace vycházely z omezeného souboru 65 úloh a měly by být nezávisle reprodukovány. Model je vydán pod vlastní licencí LFM Open License v1.0, nikoli pod Apache nebo MIT; firmy s ročním obratem nad 10 milionů dolarů potřebují samostatnou komerční licenci a kvalifikované neziskové organizace jsou od komerční licence osvobozeny pro nekomerční nebo výzkumné použití.
Jak se využití účtuje?
Faktura závisí na zvoleném poskytovateli, jeho cenách a vašem využití. Delší vstupy nebo jiné podmínky mohou mít jiné ceny.
Jaké vstupy a výstupy model podporuje?
Model přijímá textový vstup a produkuje textový výstup. Kontextové okno 256K tokenů pokrývá vstup i výstup.
Jak je model vyladěn pro agenty?
Má vestavěnou podporu strukturovaného volání nástrojů a mechanismus deferred tool search pro práci s velkými katalogy nástrojů. Je post-trained pro agentní harnessy jako Hermes Agent, Pi a OpenClaw.
Jak funguje reasoning a lze jej vypnout?
Reasoning je ve výchozím nastavení zapnutý. Parametr enable_thinking lze nastavit na False pro přímé odpovědi.
Pro jaké úlohy se model hodí?
Hodí se pro lokální agenty na telefonech a noteboocích, volání nástrojů se strukturovanými výstupy, doladění pro specifické domény, otázky a odpovědi podložené vyhledáváním, klasifikaci požadavků, extrakci informací z dokumentů a směrování případů.
Pro jaké úlohy se model naopak nedoporučuje?
Explicitně není doporučen pro agentní kódování ani složité vícestupňové uvažování. Nehodí se pro autonomní softwarové agenty a dlouhé řetězce logické dedukce.
Jak si model stojí proti předchozímu modelu LFM2.5?
Překonává předchozí model LFM2.5 s 2,6 miliardy parametrů, přičemž používá o 35 % méně parametrů.