LLM gateway s datovou vrstvou v ceně

Šest endpointů, ne jeden

Vše pod /api/v1 je volání modelu, ale typ modelu určuje, který endpoint může odpovědět — a každý endpoint vrací svůj vlastní formát.

Tři chatová rozhraní jsou nativní implementace, ne překladová vrstva: každé vysílá události ve svém protokolu, takže stream parsujete stejně jako dosud.

Endpoint vybírejte podle typu modelu, ne odhadem

Každý model v katalogu nese model_kind a typ určuje, který endpoint ho může volat. Zjištění je zdarma: čte lokální katalog.

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

Filtrujte přes ?provider= na jednoho poskytovatele, nebo ?exclude_video_and_decisions=true skryje vše kromě chatu a obrázků. Být v katalogu není slib: video model neodpoví na chatový požadavek a API vrátí model_kind_mismatch.

Výchozí trasa, nebo hlavička pro volbu poskytovatele

Model může obsluhovat několik upstream kanálů, každý s vlastním poskytovatelem a zveřejněnou sazbou. Bez hlavičky jeden vybere platforma; s X-Felo-Channel vybíráte vy.

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• Hodnota je uspořádaný seznam veřejných kódů kanálů z channels[].code modelu, ověřovaný v pořadí, v jakém ho napíšete.
• Volá se jen skupina poskytovatele prvního kanálu a platíte sazbu tohoto kanálu.
• Automatické přepnutí neexistuje. Seznam kanálů je volba, ne politika opakování — když poskytovatel selže, pošlete to znovu ze své aplikace jiným kanálem.

X-Felo-Channel funguje na šesti generačních endpointech výše. Nevztahuje se na datové API ani Felo APIs: ta jdou k poskytovateli, kterého uvedete v požadavku.

Kolik volání skutečně stojí

Volání modelů se účtují po tokenech — vstup, výstup i cache — s násobitelem slevy kanálu. Sazby se zobrazují za milion tokenů kvůli čitelnosti, ale účtování používá přesnost na token z aktuálního cenového snapshotu: krátký požadavek se nikdy nezaokrouhlí na milion.

• Ceník cache platí jen tehdy, když odpověď protokolu hlásí využití cache; model, který ho nehlásí, účtuje vše vstupní sazbou.
• Webové hledání, které modelová služba provede a nahlásí, stojí $0.01 za hledání.
• Některé modely účtují po pásmech podle velikosti promptu: Claude Haiku 5.5 stojí $0.10 za vstup a $0.50 za výstup na milion tokenů do promptu 100K tokenů, nad tím $0.50 a $2.50 za celý požadavek.
• První dobití je $1. Žádné předplatné, žádný poplatek za uživatele, žádný minimální závazek — neaktivní klíč nic nestojí.

Volání datového API a workflow Felo jdou ze stejného zůstatku, každé podle svého zveřejněného základu: za úspěšný požadavek, za vrácenou položku nebo podle skutečného využití.

Dvě limity, které vypadají stejně a nejsou

Prázdný zůstatek vrací 402 INSUFFICIENT_CREDITS. Příliš rychlá volání vrací 429 RATE_LIMITED. Čekání vyřeší druhé a nikdy první.

Dnes dokumentuje tvrdé limity jen /v2/chat. Volání modelů mohou být omezena i upstream a to se projeví jako 429 — čtěte X-RateLimit-* a Retry-After, místo abyste čísla zadrátovali. Každá odpověď nese request_id a hlavička X-Request-Id, kterou pošlete, se vrací beze změny, takže vaše a naše logy jdou spárovat.

Obrázky a video dobíhají na pozadí

Oba generační endpointy vrací task_id místo výsledku. Odeslat, dotázat se, vyzvednout — a pozor: jakmile úloha vznikne, většina selhání přichází jako 200 s koncovým stavem, ne jako HTTP chyba.

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

Čtěte stav dřív než výsledek: failed a interrupted jsou také odpovědi a error.message řekne proč. 402 při odeslání znamená, že úloha nikdy nevznikla. SuperAgent funguje jinak: vrací stream_key a tlačí události přes SSE, takže není co dotazovat.

Změňte základní URL, klienta si nechte

Obě SDK fungují beze změny, jakmile základní URL míří sem. npx feloapi-cli setup zapíše stejnou konfiguraci pro Claude Code i Codex.

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

ID modelů nejsou napříč poskytovateli stejná. Vyberte z katalogu, než přepnete základní URL, jinak první volání vrátí 404.

Polovina, kterou vám gateway obvykle nechá

LLM gateway směruje volání modelů. Tady stejný klíč dosáhne i katalogu API s ⁦5,000+⁩ — takže vyhledávací krok vašeho agenta, slajdy, které vytvoří, i dokument, který si přečte, se účtují ze stejných kreditů, ne u tří dalších poskytovatelů.

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

Volání datového API jdou k pojmenovaným poskytovatelům pod /v1/beta — Tavily, Exa, Apollo a zbytek katalogu — každé podle svého zveřejněného základu.

Šest otázek o LLM gateway