Felo API PlatformFelo API Platform
Zpět na modely
LiquidAImessages

LFM3-1.7B API

LiquidAI: LFM3-1.7B je malý jazykový model s 1,73 miliardy parametrů, kontextovým oknem 256K tokenů a tri-hybridní architekturou, určený pro lokální agenty na telefonech a noteboocích bez dedikované GPU.

LFM3-1.7B od Liquid AI je textový model s 1,73 miliardy parametrů, který v 4bitové kvantizaci zabírá přibližně 1 GB paměti. Díky tomu běží lokálně na telefonech a noteboocích bez dedikované GPU. Architektura je tri-hybridní: 24 vrstev kombinuje 13 gated short convolutions, 5 sliding-window attention vrstev a 6 globálních attention vrstev. Slovník má 128 000 tokenů a pokrývá 16 jazyků. Model byl trénován na 22 bilionech tokenů, což představuje poměr přibližně 12 717 tokenů na parametr.

Model je vyladěn pro agentní harnessy jako Hermes Agent, Pi a OpenClaw a má vestavěnou podporu strukturovaného volání nástrojů. Pro práci s velkými katalogy nástrojů nabízí mechanismus deferred tool search. Reasoning je ve výchozím nastavení zapnutý; parametr enable_thinking lze nastavit na False pro přímé odpovědi. Kontextové okno 256K tokenů pokrývá vstup i výstup a je neobvykle velké pro model této velikosti. Model lze rychle doladit na jedné GPU.

LFM3-1.7B se hodí pro lokální agenty na telefonech a noteboocích, volání nástrojů se strukturovanými výstupy, doladění pro specifické domény, otázky a odpovědi podložené vyhledáváním nebo retrievalem, klasifikaci požadavků, extrakci informací z dokumentů a směrování případů. Naopak není doporučen pro agentní kódování ani složité vícestupňové uvažování a nehodí se pro autonomní softwarové agenty či dlouhé řetězce logické dedukce. Nemá takové znalosti světa jako větší systémy, proto je vhodné jej kombinovat s retrievalem nebo vyhledáváním. Agentní evaluace vycházely z omezeného souboru 65 úloh a měly by být nezávisle reprodukovány. Model je vydán pod vlastní licencí LFM Open License v1.0, nikoli pod Apache nebo MIT; firmy s ročním obratem nad 10 milionů dolarů potřebují samostatnou komerční licenci a kvalifikované neziskové organizace jsou od komerční licence osvobozeny pro nekomerční nebo výzkumné použití.

Aktualizováno:

MODEL ID

lfm-3-1.7b
Kontext
262.144K
Max. výstup
8.192K
Doporučené API
messages
Vstup
text
Výstup
text

Hlavní body

  • 1,73 miliardy parametrů, v 4bitové kvantizaci ~1 GB paměti
  • Tri-hybridní architektura s 24 vrstvami
  • Kontextové okno 256K tokenů pro vstup i výstup
  • Vestavěné strukturované volání nástrojů
  • Běží lokálně bez dedikované GPU
  • Rychlé doladění na jedné GPU

Poskytovatelé

1 poskytovatelů

Porovnejte ceny API u různých poskytovatelů. Vyberte poskytovatele a zobrazte všechny poplatky a podmínky.

Poskytovatel · Podrobnosti k cenám
Dostupnost
$0.08$0.2$0.02

Co se dá pořídit za $10

Vstup
125 mil. tokenů
Výstup
50 mil. tokenů

Odhad z aktuálních cen vstupu a výstupu, před slevami.

Uvažování

Vždy zapnuto
Ano

Rychlý start

Kód připravený ke vložení pro volání tohoto modelu pomocí kompatibilních API Felo API Platform. Pokud chcete prompty vyzkoušet před psaním kódu, začněte v Playground.

1

Získejte API klíč

Vytvořte klíč ve svém účtu Felo API Platform a nastavte jej jako proměnnou prostředí.

export FELO_API_KEY="YOUR_API_KEY"
2

Odešlete první požadavek

Použijte toto ID modelu s endpointem Felo API Platform. Volitelné hlavičky požadavku, jako X-Request-Id, mohou pomoci při řešení potíží.

lfm-3-1.7b

Tento model podporuje uvažování. Pokud zvolený protokol a trasa modelu nabízejí ovládací prvky uvažování, zachovejte vrácená metadata uvažování při pokračování konverzace.

const response = await fetch("https://openapi.felo.ai/api/v1/messages", {
  method: 'POST',
  headers: {
    Authorization: `Bearer ${process.env.FELO_API_KEY}`,
    'Content-Type': 'application/json',
  },
  body: JSON.stringify({
  "model": "lfm-3-1.7b",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ]
}),
});
if (!response.ok) throw new Error(await response.text());
console.log(await response.json());

Použití SDK třetích stran

Používejte kompatibilní SDK nastavením baseURL na https://openapi.felo.ai/api/v1. Pro klienty ve stylu Claude použijte base URL kompatibilní s Anthropic. https://openapi.felo.ai/api.

3

Zapněte streamování

Přidejte stream: true, abyste dostávali odpovědi jako server-sent events.

curl -N https://openapi.felo.ai/api/v1/messages \
  -H "Authorization: Bearer $FELO_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
  "model": "lfm-3-1.7b",
  "max_tokens": 1024,
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "stream": true
}'

Endpoint

Felo API Platform nabízí kompatibilní rozhraní pro volání modelů. Vyberte to, které vaše aplikace nebo klientský agent již podporuje.

RozhraníMetodaURL

Messages

Zprávy kompatibilní s Anthropic pro klienty ve stylu Claude.

POST

https://openapi.felo.ai/api/v1/messages

Parametry

NázevTypVýchozíPopis
modelstringlfm-3-1.7bVeřejné ID modelu pro volání.
max_tokensinteger—Maximální počet generovaných tokenů.
messagesarray—Zprávy konverzace pro Chat Completions.
seed———
stop———
min_p———
toolsarray—Definice volání nástrojů podle kompatibilního schématu.
top_k———
top_p———
logprobs———
reasoning———
temperaturenumber—Řídí různorodost odpovědí, pokud je podporováno.
tool_choicestring or object—Řídí, zda má být nástroj zavolán.
top_logprobs———
response_formatobject—Vyžádá strukturovaný výstup, pokud je podporován.
presence_penalty———
frequency_penalty———
include_reasoning———
repetition_penalty———
structured_outputs———
max_completion_tokens———

Časté dotazy

Co je LFM3-1.7B?

LFM3-1.7B od Liquid AI je textový model s 1,73 miliardy parametrů, který v 4bitové kvantizaci zabírá přibližně 1 GB paměti. Díky tomu běží lokálně na telefonech a noteboocích bez dedikované GPU. Architektura je tri-hybridní: 24 vrstev kombinuje 13 gated short convolutions, 5 sliding-window attention vrstev a 6 globálních attention vrstev. Slovník má 128 000 tokenů a pokrývá 16 jazyků. Model byl trénován na 22 bilionech tokenů, což představuje poměr přibližně 12 717 tokenů na parametr. Model je vyladěn pro agentní harnessy jako Hermes Agent, Pi a OpenClaw a má vestavěnou podporu strukturovaného volání nástrojů. Pro práci s velkými katalogy nástrojů nabízí mechanismus deferred tool search. Reasoning je ve výchozím nastavení zapnutý; parametr enable_thinking lze nastavit na False pro přímé odpovědi. Kontextové okno 256K tokenů pokrývá vstup i výstup a je neobvykle velké pro model této velikosti. Model lze rychle doladit na jedné GPU. LFM3-1.7B se hodí pro lokální agenty na telefonech a noteboocích, volání nástrojů se strukturovanými výstupy, doladění pro specifické domény, otázky a odpovědi podložené vyhledáváním nebo retrievalem, klasifikaci požadavků, extrakci informací z dokumentů a směrování případů. Naopak není doporučen pro agentní kódování ani složité vícestupňové uvažování a nehodí se pro autonomní softwarové agenty či dlouhé řetězce logické dedukce. Nemá takové znalosti světa jako větší systémy, proto je vhodné jej kombinovat s retrievalem nebo vyhledáváním. Agentní evaluace vycházely z omezeného souboru 65 úloh a měly by být nezávisle reprodukovány. Model je vydán pod vlastní licencí LFM Open License v1.0, nikoli pod Apache nebo MIT; firmy s ročním obratem nad 10 milionů dolarů potřebují samostatnou komerční licenci a kvalifikované neziskové organizace jsou od komerční licence osvobozeny pro nekomerční nebo výzkumné použití.

Jak se využití účtuje?

Faktura závisí na zvoleném poskytovateli, jeho cenách a vašem využití. Delší vstupy nebo jiné podmínky mohou mít jiné ceny.

Jaké vstupy a výstupy model podporuje?

Model přijímá textový vstup a produkuje textový výstup. Kontextové okno 256K tokenů pokrývá vstup i výstup.

Jak je model vyladěn pro agenty?

Má vestavěnou podporu strukturovaného volání nástrojů a mechanismus deferred tool search pro práci s velkými katalogy nástrojů. Je post-trained pro agentní harnessy jako Hermes Agent, Pi a OpenClaw.

Jak funguje reasoning a lze jej vypnout?

Reasoning je ve výchozím nastavení zapnutý. Parametr enable_thinking lze nastavit na False pro přímé odpovědi.

Pro jaké úlohy se model hodí?

Hodí se pro lokální agenty na telefonech a noteboocích, volání nástrojů se strukturovanými výstupy, doladění pro specifické domény, otázky a odpovědi podložené vyhledáváním, klasifikaci požadavků, extrakci informací z dokumentů a směrování případů.

Pro jaké úlohy se model naopak nedoporučuje?

Explicitně není doporučen pro agentní kódování ani složité vícestupňové uvažování. Nehodí se pro autonomní softwarové agenty a dlouhé řetězce logické dedukce.

Jak si model stojí proti předchozímu modelu LFM2.5?

Překonává předchozí model LFM2.5 s 2,6 miliardy parametrů, přičemž používá o 35 % méně parametrů.

Související modely