Gateway LLM dengan lapisan data bawaan

Enam endpoint, bukan satu

Semua yang ada di bawah /api/v1 adalah panggilan model, tetapi jenis model menentukan endpoint mana yang bisa menjawab — dan setiap endpoint mengembalikan formatnya sendiri.

Tiga permukaan chat adalah implementasi asli, bukan lapisan penerjemah: masing-masing mengirim event dalam protokolnya sendiri, jadi Anda mem-parse stream persis seperti sekarang.

Pilih endpoint berdasarkan jenis model, bukan menebak

Setiap model di katalog membawa model_kind, dan jenis itulah yang menentukan endpoint mana yang dapat memanggilnya. Mencarinya gratis: ia membaca katalog lokal.

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

Saring dengan ?provider= untuk melihat satu penyedia saja, atau ?exclude_video_and_decisions=true untuk menyembunyikan semua kecuali chat dan gambar. Tercantum di katalog bukan janji: model video tidak menjawab permintaan chat, dan API mengembalikan model_kind_mismatch.

Rute bawaan, atau header untuk memilih penyedia

Satu model bisa dilayani beberapa kanal hulu, masing-masing dengan penyedia dan tarif terbitnya. Tanpa header, platform memilih satu; dengan X-Felo-Channel, Anda yang memilih.

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• Nilainya berupa daftar terurut kode kanal publik dari channels[].code model, divalidasi sesuai urutan yang Anda tulis.
• Hanya grup penyedia kanal pertama yang dihubungi, dan tarif kanal itulah yang Anda bayar.
• Tidak ada perpindahan otomatis. Daftar kanal adalah pilihan, bukan kebijakan percobaan ulang — jika satu penyedia gagal, kirim ulang dari aplikasi Anda dengan kanal lain.

X-Felo-Channel berlaku pada enam endpoint pembangkitan di atas. Ia tidak berlaku untuk API data maupun Felo APIs: panggilan itu menuju penyedia yang Anda sebutkan dalam permintaan.

Berapa biaya satu panggilan sebenarnya

Panggilan model ditagih per token — masukan, keluaran, dan cache — dengan pengali diskon kanal. Tarif ditampilkan per juta token agar mudah dibaca, tetapi penagihan memakai presisi per token dari snapshot harga terkini: permintaan pendek tidak pernah dibulatkan ke satu juta.

• Tarif cache hanya berlaku bila respons protokol melaporkan pemakaian cache; model yang tidak melaporkannya menagih semuanya di tarif masukan.
• Pencarian web yang dijalankan dan dilaporkan layanan model berbiaya $0.01 per pencarian.
• Sebagian model bertingkat menurut ukuran prompt: Claude Haiku 5.5 berbiaya $0.10 masukan dan $0.50 keluaran per juta token sampai prompt 100K token, di atas itu $0.50 dan $2.50 untuk seluruh permintaan.
• Isi ulang pertama $1. Tanpa langganan, tanpa biaya per pengguna, tanpa komitmen minimum — kunci yang tidak dipakai tidak berbiaya.

Panggilan API data dan alur kerja Felo juga ditarik dari saldo yang sama, masing-masing menurut dasar terbitnya: per permintaan berhasil, per item yang dikembalikan, atau menurut pemakaian nyata.

Dua batas yang tampak sama tetapi tidak

Saldo habis mengembalikan 402 INSUFFICIENT_CREDITS. Memanggil terlalu cepat mengembalikan 429 RATE_LIMITED. Menunggu menyelesaikan yang kedua dan tidak pernah yang pertama.

Saat ini hanya /v2/chat yang mendokumentasikan batas keras. Panggilan model juga bisa dibatasi di hulu, dan itu tampil sebagai 429 — bacalah X-RateLimit-* dan Retry-After, jangan menulis angkanya langsung di kode. Setiap respons membawa request_id, dan header X-Request-Id yang Anda kirim dikembalikan apa adanya, sehingga log Anda dan log kami bisa dicocokkan.

Gambar dan video selesai di latar belakang

Kedua endpoint pembangkitan mengembalikan task_id, bukan hasil. Kirim, pantau, ambil — dan perhatikan: setelah tugas dibuat, sebagian besar kegagalan datang sebagai 200 dengan status akhir, bukan sebagai galat HTTP.

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

Baca status sebelum hasil: failed dan interrupted juga respons, dan error.message menjelaskan sebabnya. 402 saat mengirim berarti tugasnya tidak pernah dibuat. SuperAgent berbeda: ia mengembalikan stream_key dan mendorong event lewat SSE, jadi tidak ada yang perlu dipantau.

Ganti URL dasar, pertahankan klien

Kedua SDK berjalan tanpa perubahan begitu URL dasar diarahkan ke sini. npx feloapi-cli setup menulis konfigurasi yang sama untuk Claude Code dan Codex.

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

ID model tidak sama antarpenyedia. Pilih dari katalog sebelum mengubah URL dasar, kalau tidak panggilan pertama akan menjawab 404.

Separuh yang biasanya ditinggalkan gateway kepada Anda

Gateway LLM merutekan panggilan model. Di sini kunci yang sama juga menjangkau katalog API berisi ⁦5,000+⁩ — jadi langkah pencarian agen Anda, slide yang dibuatnya, dan dokumen yang dibacanya ulang ditagih ke kredit yang sama, bukan ke tiga penyedia tambahan.

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

Panggilan API data menuju penyedia bernama di bawah /v1/beta — Tavily, Exa, Apollo, dan sisanya — masing-masing dengan dasar terbitnya sendiri.

Enam pertanyaan tentang gateway LLM