Een LLM-gateway met de datalaag erbij

Zes endpoints, geen één

Alles onder /api/v1 is een modelaanroep, maar het modeltype bepaalt welk endpoint kan antwoorden — en elk endpoint levert zijn eigen formaat.

De drie chat-oppervlakken zijn eigen implementaties, geen vertaallaag: elk stuurt zijn events in zijn eigen protocol, dus je parseert de stream precies zoals nu.

Kies het endpoint op modeltype, niet op goed geluk

Elk model in de catalogus heeft een model_kind, en dat type bepaalt welk endpoint het kan aanroepen. Ontdekken is gratis: het leest de lokale catalogus.

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

Filter met ?provider= om één provider te zien, of met ?exclude_video_and_decisions=true om alles behalve chat en beeld te verbergen. In de catalogus staan is geen belofte: een videomodel antwoordt niet op een chatverzoek, en de API geeft model_kind_mismatch.

Standaardroute, of een header om de provider te kiezen

Een model kan via meerdere upstream-kanalen worden geleverd, elk met zijn eigen provider en gepubliceerde tarief. Zonder de header kiest het platform er één; met X-Felo-Channel kies jij.

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• De waarde is een geordende lijst openbare kanaalcodes uit channels[].code van het model, gevalideerd in de volgorde die je opgeeft.
• Alleen de providergroep van het eerste kanaal wordt aangesproken, en je betaalt het tarief van dat kanaal.
• Er is geen automatische omschakeling. Een kanaallijst is een keuze, geen retrybeleid — faalt een provider, stuur dan opnieuw vanuit je applicatie met een ander kanaal.

X-Felo-Channel werkt op de zes generatie-endpoints hierboven. Het geldt niet voor de data-API of de Felo-API's: die gaan naar de provider die je in het verzoek noemt.

Wat een aanroep echt kost

Modelaanroepen worden per token afgerekend — invoer, uitvoer en cache — met de kortingsfactor van het kanaal erop. Tarieven staan per miljoen tokens voor de leesbaarheid, maar de afrekening gebruikt de tokennauwkeurigheid van de actuele prijssnapshot: een kort verzoek wordt nooit naar een miljoen afgerond.

• Cachingtarieven gelden alleen als het protocolantwoord cachegebruik meldt; een model dat dat niet meldt, rekent alles tegen het invoertarief.
• Webzoekopdrachten die de modelservice zelf uitvoert en meldt, kosten $0.01 per zoekopdracht.
• Sommige modellen rekenen in staffels op promptgrootte: Claude Haiku 5.5 kost $0.10 invoer en $0.50 uitvoer per miljoen tokens tot een prompt van 100K tokens, en daarboven $0.50 en $2.50 voor het hele verzoek.
• De eerste opwaardering is $1. Geen abonnement, geen prijs per gebruiker, geen minimale afname — een sleutel die niets doet, kost niets.

Aanroepen van de data-API en Felo-workflows komen uit hetzelfde saldo, elk volgens hun eigen gepubliceerde basis: per geslaagd verzoek, per teruggegeven item of naar werkelijk gebruik.

Twee limieten die op elkaar lijken en het niet zijn

Zonder saldo krijg je 402 INSUFFICIENT_CREDITS. Te snel bellen geeft 429 RATE_LIMITED. Wachten lost het tweede op en het eerste nooit.

Vandaag documenteert alleen /v2/chat harde limieten. Modelaanroepen kunnen ook upstream worden beperkt, en dat verschijnt als een 429 — lees X-RateLimit-* en Retry-After in plaats van getallen hard te coderen. Elk antwoord draagt een request_id, en de X-Request-Id die je meestuurt komt ongewijzigd terug, zodat jouw logs en de onze op elkaar aansluiten.

Beeld en video worden op de achtergrond afgerond

Beide generatie-endpoints geven een task_id in plaats van een resultaat. Indienen, pollen, ophalen — en let op: zodra de taak bestaat, komen de meeste fouten als 200 met een eindstatus, niet als HTTP-fout.

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

Lees de status vóór het resultaat: failed en interrupted zijn ook antwoorden, en error.message zegt waarom. Een 402 bij het indienen betekent dat de taak nooit is aangemaakt. SuperAgent werkt anders: die geeft een stream_key en duwt events via SSE, dus er valt niets te pollen.

Verander de basis-URL, houd je client

Beide SDK's werken ongewijzigd zodra de basis-URL hierheen wijst. npx feloapi-cli setup schrijft dezelfde configuratie voor Claude Code en Codex.

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

Model-ID's zijn niet bij elke provider hetzelfde. Kies eerst in de catalogus en verander dan de basis-URL, anders antwoordt de eerste aanroep met 404.

De helft die een gateway meestal aan jou laat

Een LLM-gateway routeert modelaanroepen. Hier bereikt dezelfde sleutel ook een catalogus met ⁦5,000+⁩ API's — dus de zoekstap van je agent, de dia's die hij maakt en het document dat hij herleest, worden van dezelfde credits betaald, niet bij drie providers extra.

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

Aanroepen van de data-API gaan naar genoemde providers onder /v1/beta — Tavily, Exa, Apollo en de rest van de catalogus — elk volgens hun eigen gepubliceerde basis.

Zes vragen over de LLM-gateway