Veri katmanı içinde gelen LLM ağ geçidi

Altı uç nokta, bir değil

/api/v1 altındaki her şey bir model çağrısıdır, ama hangi uç noktanın yanıt verebileceğini modelin türü belirler — ve her uç nokta kendi biçimini döndürür.

Üç sohbet yüzeyi çeviri katmanı değil, yerel uygulamalardır: her biri olaylarını kendi protokolünde yayar, yani akışı bugünkü gibi ayrıştırırsınız.

Uç noktayı model türüne göre seçin, tahminle değil

Katalogdaki her model bir model_kind taşır ve hangi uç noktanın onu çağırabileceğini bu tür belirler. Keşif ücretsizdir: yerel katalogu okur.

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

?provider= ile tek bir sağlayıcı görün ya da ?exclude_video_and_decisions=true ile sohbet ve görsel dışındakileri gizleyin. Katalogda yer almak söz değildir: video modeli sohbet isteğine yanıt vermez ve API model_kind_mismatch döndürür.

Varsayılan rota, ya da sağlayıcıyı seçmek için başlık

Bir model birden çok upstream kanaldan sunulabilir; her kanalın kendi sağlayıcısı ve ilan edilmiş oranı vardır. Başlık yoksa platform birini seçer; X-Felo-Channel ile seçen siz olursunuz.

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• Değer, modelin channels[].code alanından gelen genel kanal kodlarının sıralı listesidir ve yazdığınız sırayla doğrulanır.
• Yalnızca ilk kanalın sağlayıcı grubuna gidilir ve o kanalın oranını ödersiniz.
• Otomatik geçiş yoktur. Kanal listesi bir seçimdir, yeniden deneme politikası değil — bir sağlayıcı düşerse uygulamanızdan başka bir kanalla yeniden gönderin.

X-Felo-Channel yukarıdaki altı üretim uç noktasında çalışır. Veri API'si ve Felo API'leri için geçerli değildir: o çağrılar istekte adını verdiğiniz sağlayıcıya gider.

Bir çağrı gerçekte ne kadar

Model çağrıları token başına faturalanır — girdi, çıktı ve önbellek — kanalın indirim çarpanıyla. Oranlar okunabilirlik için milyon token başına gösterilir, ama faturalama güncel fiyat anlık görüntüsünün token hassasiyetini kullanır: kısa bir istek asla milyona yuvarlanmaz.

• Önbellek oranları yalnızca protokol yanıtı önbellek kullanımı bildirirse geçerlidir; bildirmeyen model her şeyi girdi oranından hesaplar.
• Model hizmetinin kendi yürütüp bildirdiği web araması, arama başına $0.01 tutar.
• Bazı modeller girdi boyutuna göre kademelidir: Claude Haiku 5.5, 100K token'a kadar promptlarda milyon token başına $0.10 girdi ve $0.50 çıktı, üstünde tüm istek için $0.50 ve $2.50.
• İlk yükleme $1. Abonelik yok, kullanıcı başına ücret yok, asgari taahhüt yok — kullanılmayan anahtar hiçbir şeye mal olmaz.

Veri API çağrıları ve Felo iş akışları da aynı bakiyeden düşer; her biri kendi ilan edilmiş esasına göre: başarılı istek başına, dönen öğe başına ya da gerçek kullanıma göre.

Birbirine benzeyen ama benzemeyen iki sınır

Bakiye bittiğinde 402 INSUFFICIENT_CREDITS döner. Çok hızlı çağırınca 429 RATE_LIMITED. Beklemek ikincisini çözer, birincisini asla.

Bugün yalnızca /v2/chat katı sınırları belgeler. Model çağrıları upstream'de de sınırlanabilir ve bu 429 olarak görünür — sayıları koda gömmek yerine X-RateLimit-* ve Retry-After okuyun. Her yanıt bir request_id taşır ve gönderdiğiniz X-Request-Id başlığı aynen geri döner; böylece sizin ve bizim günlüklerimiz eşleşir.

Görsel ve video arka planda tamamlanır

İki üretim uç noktası da sonuç yerine task_id döndürür. Gönder, sorgula, al — ve dikkat: görev oluştuktan sonra hataların çoğu HTTP hatası değil, 200 ile gelen son durumdur.

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

Sonuçtan önce durumu okuyun: failed ve interrupted de birer yanıttır ve error.message nedenini söyler. Gönderimde 402 almak, görevin hiç oluşmadığı anlamına gelir. SuperAgent farklıdır: stream_key döndürür ve olayları SSE ile iter, sorgulanacak bir şey yoktur.

Temel URL'yi değiştirin, istemciyi koruyun

Temel URL burayı gösterdiğinde iki SDK da değişiklik olmadan çalışır. npx feloapi-cli setup Claude Code ve Codex için aynı yapılandırmayı yazar.

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

Model kimlikleri sağlayıcılar arasında aynı değildir. Temel URL'yi değiştirmeden önce katalogdan seçin, yoksa ilk çağrı 404 döner.

Ağ geçidinin genelde size bıraktığı yarı

Bir LLM ağ geçidi model çağrılarını yönlendirir. Burada aynı anahtar ⁦5,000+⁩ API içeren kataloğa da ulaşır — yani ajanınızın arama adımı, ürettiği slaytlar ve yeniden okuduğu belge aynı kredilerden faturalanır, üç sağlayıcıdan daha değil.

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

Veri API çağrıları /v1/beta altındaki adlandırılmış sağlayıcılara gider — Tavily, Exa, Apollo ve katalogun geri kalanı — her biri kendi ilan edilmiş esasına göre.

LLM ağ geçidi hakkında altı soru