Ein LLM-Gateway mit angeschlossener Datenschicht

Sechs Endpunkte, nicht einer

Alles unter /api/v1 ist ein Modellaufruf, aber die Modellart entscheidet, welcher Endpunkt antworten kann — und jeder Endpunkt liefert sein eigenes Format.

Die drei Chat-Oberflächen sind native Implementierungen, keine Übersetzungsschicht: Jede streamt Ereignisse im eigenen Protokoll, Sie parsen den Stream also genau wie bisher.

Endpunkt nach Modellart wählen, nicht nach Vermutung

Jedes Modell im Katalog trägt ein model_kind, und die Art bestimmt, welcher Endpunkt es aufrufen kann. Die Suche kostet nichts und liest den lokalen Katalog.

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

Mit ?provider= sehen Sie nur einen Anbieter, mit ?exclude_video_and_decisions=true nur Chat und Bild. Ein Katalogeintrag ist kein Versprechen: Ein Videomodell beantwortet keine Chat-Anfrage, und die API antwortet mit model_kind_mismatch.

Standardroute oder ein Header für den Anbieter

Ein Modell kann von mehreren vorgelagerten Kanälen bedient werden, jeder mit eigenem Anbieter und eigenem veröffentlichten Preis. Ohne Header wählt die Plattform; mit X-Felo-Channel wählen Sie.

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• Der Wert ist eine geordnete Liste öffentlicher Kanalcodes aus channels[].code des Modells, geprüft in der Reihenfolge, in der Sie sie schreiben.
• Nur die Anbietergruppe des ersten Kanals wird übermittelt, und es gilt der Preis dieses Kanals.
• Es gibt kein automatisches Failover. Eine Kanalliste ist eine Auswahl, keine Wiederholungsrichtlinie — schlägt ein Anbieter fehl, senden Sie aus Ihrer Anwendung mit einem anderen Kanal erneut.

X-Felo-Channel gilt für alle sechs Generierungsendpunkte oben. Für die Daten-API und die Felo APIs gilt er nicht: Dort geht die Anfrage an den im Request genannten Anbieter.

Was ein Aufruf wirklich kostet

Modellaufrufe werden pro Token abgerechnet — Eingabe, Ausgabe und Cache — mit dem Rabattfaktor des Kanals. Preise stehen zur Lesbarkeit pro 1 Mio. Token, abgerechnet wird aber mit Token-Genauigkeit aus dem aktuellen Preisstand, ein kurzer Request wird also nicht auf eine Million aufgerundet.

• Cache-Preise gelten nur, wenn die Protokollantwort eine Cache-Nutzung meldet; ein Modell ohne diese Meldung rechnet alles zum Eingabepreis ab.
• Websuche, die der Modelldienst tatsächlich ausführt und meldet, kostet $0.01 pro Suche.
• Manche Modelle staffeln nach Promptgröße: Claude Haiku 5.5 kostet $0.10 Eingabe und $0.50 Ausgabe pro 1 Mio. Token bis zu einem Prompt von 100K Token, darüber $0.50 und $2.50 für den gesamten Request.
• Die erste Aufladung beginnt bei $1. Kein Abo, keine Sitzplatzgebühr, keine Mindestbindung — ein ungenutzter Schlüssel kostet nichts.

Daten-API-Aufrufe und Felo-Workflows werden aus demselben Guthaben beglichen, jeweils nach eigener veröffentlichter Grundlage: pro erfolgreichem Request, pro zurückgegebenem Element oder nach tatsächlicher Nutzung.

Zwei Grenzen, die gleich aussehen und es nicht sind

Leere Credits ergeben 402 INSUFFICIENT_CREDITS. Zu schnelle Aufrufe ergeben 429 RATE_LIMITED. Warten löst das zweite und nie das erste.

Dokumentierte harte Limits gibt es heute nur bei /v2/chat. Modellaufrufe können auch vorgelagert begrenzt werden, was als 429 erscheint — lesen Sie X-RateLimit-* und Retry-After, statt Zahlen fest zu verdrahten. Jede Antwort trägt eine request_id, und ein von Ihnen gesendeter X-Request-Id-Header wird zurückgegeben, sodass Ihre Logs und unsere zusammenpassen.

Bild und Video werden im Hintergrund fertig

Beide Generierungsendpunkte liefern eine task_id statt eines Ergebnisses. Senden, abfragen, abholen — und beachten Sie: Sobald eine Aufgabe existiert, kommen die meisten Fehler als 200 mit einem Endstatus, nicht als HTTP-Fehler.

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

Lesen Sie den Status vor dem Ergebnis: failed und interrupted sind auch Antworten, und error.message nennt den Grund. Ein 402 beim Senden bedeutet, dass die Aufgabe nie angelegt wurde. SuperAgent funktioniert anders — er gibt einen stream_key zurück und schiebt Ereignisse per SSE, es gibt nichts abzufragen.

Basis-URL ändern, Client behalten

Beide SDKs funktionieren unverändert, sobald die Basis-URL hierher zeigt. npx feloapi-cli setup schreibt dieselbe Konfiguration für Claude Code und Codex.

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

Modell-IDs sind zwischen Anbietern nicht identisch. Wählen Sie vor dem Umschalten der Basis-URL aus dem Katalog, sonst antwortet der erste Aufruf mit 404.

Die Hälfte, die ein Gateway Ihnen meist überlässt

Ein LLM-Gateway routet Modellaufrufe. Hier reicht derselbe Schlüssel zusätzlich an einen Katalog mit ⁦5,000+⁩ APIs — der Suchschritt in Ihrem Agenten, die erzeugten Folien und das von ihm gelesene Dokument werden also aus denselben Credits bezahlt, nicht bei drei weiteren Anbietern.

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

Daten-API-Aufrufe gehen unter /v1/beta an benannte Anbieter — Tavily, Exa, Apollo und der Rest des Katalogs — jeweils nach eigener veröffentlichter Grundlage.

Sechs Fragen zum LLM-Gateway