डेटा लेयर के साथ आने वाला LLM गेटवे

छह एंडपॉइंट, एक नहीं

/api/v1 के नीचे सब कुछ मॉडल कॉल है, पर मॉडल का प्रकार तय करता है कि कौन सा एंडपॉइंट जवाब दे सकता है — और हर एंडपॉइंट अपना फ़ॉर्मैट लौटाता है।

चैट की तीनों सतहें मूल इम्प्लीमेंटेशन हैं, अनुवाद की परत नहीं: हर एक अपने ही प्रोटोकॉल में इवेंट भेजती है, इसलिए आप स्ट्रीम को वैसे ही पार्स करते हैं जैसे अब करते हैं।

एंडपॉइंट मॉडल के प्रकार से चुनें, अनुमान से नहीं

कैटलॉग में हर मॉडल के साथ एक model_kind होता है, और वही प्रकार तय करता है कि कौन सा एंडपॉइंट उसे कॉल कर सकता है। खोज मुफ़्त है: वह स्थानीय कैटलॉग पढ़ती है।

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

?provider= से एक ही प्रदाता देखें, या ?exclude_video_and_decisions=true से चैट और इमेज के अलावा सब छिपाएँ। कैटलॉग में होना वादा नहीं है: वीडियो मॉडल चैट अनुरोध का जवाब नहीं देता, और API model_kind_mismatch लौटाता है।

डिफ़ॉल्ट रूट, या प्रदाता चुनने के लिए हेडर

एक मॉडल को कई अपस्ट्रीम चैनल परोस सकते हैं, हर एक का अपना प्रदाता और प्रकाशित दर। हेडर के बिना प्लेटफ़ॉर्म एक चुनता है; X-Felo-Channel के साथ आप चुनते हैं।

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• मान मॉडल के channels[].code से लिए गए सार्वजनिक चैनल कोड की क्रमित सूची है, जिसे आपके लिखे क्रम में जाँचा जाता है।
• सिर्फ़ पहले चैनल का प्रदाता समूह कॉल किया जाता है, और आप उसी चैनल की दर चुकाते हैं।
• कोई स्वचालित स्विच नहीं है। चैनल सूची एक चुनाव है, रीट्राई नीति नहीं — किसी प्रदाता के फ़ेल होने पर अपने ऐप से दूसरे चैनल के साथ दोबारा भेजें।

X-Felo-Channel ऊपर दिए छह जनरेशन एंडपॉइंट पर काम करता है। यह डेटा API या Felo APIs पर लागू नहीं होता: वे कॉल उस प्रदाता के पास जाती हैं जिसे आप अनुरोध में नाम देते हैं।

एक कॉल की असली कीमत

मॉडल कॉल टोकन के हिसाब से बिल होते हैं — इनपुट, आउटपुट और कैश — चैनल के डिस्काउंट गुणक के साथ। दरें पढ़ने में आसानी के लिए प्रति मिलियन टोकन दिखाई जाती हैं, पर बिलिंग मौजूदा प्राइस स्नैपशॉट की प्रति-टोकन सटीकता से होती है: छोटा अनुरोध कभी एक मिलियन तक नहीं गोल किया जाता।

• कैश दरें सिर्फ़ तब लागू होती हैं जब प्रोटोकॉल का जवाब कैश उपयोग की सूचना दे; जो मॉडल नहीं देता, वह सब कुछ इनपुट दर पर गिनता है।
• वेब सर्च जो मॉडल सेवा खुद चलाती और बताती है, उसकी कीमत $0.01 प्रति सर्च है।
• कुछ मॉडल प्रॉम्प्ट आकार के हिसाब से स्लैब लगाते हैं: Claude Haiku 5.5 प्रति मिलियन टोकन $0.10 इनपुट और $0.50 आउटपुट है, 100K टोकन तक के प्रॉम्प्ट तक; उससे बड़े पर पूरे अनुरोध का $0.50 और $2.50।
• पहला रीचार्ज $1 है। कोई सब्सक्रिप्शन नहीं, प्रति यूज़र शुल्क नहीं, न्यूनतम प्रतिबद्धता नहीं — बिना उपयोग वाली कुंजी पर कुछ खर्च नहीं।

डेटा API कॉल और Felo वर्कफ़्लो भी उसी बैलेंस से कटते हैं, हर एक अपने प्रकाशित आधार पर: प्रति सफल अनुरोध, प्रति लौटाया गया आइटम, या वास्तविक उपयोग के हिसाब से।

दो सीमाएँ जो एक जैसी दिखती हैं, हैं नहीं

बैलेंस खत्म होने पर 402 INSUFFICIENT_CREDITS मिलता है। बहुत तेज़ कॉल पर 429 RATE_LIMITED। इंतज़ार दूसरे को ठीक करता है और पहले को कभी नहीं।

आज केवल /v2/chat कठोर सीमाएँ दस्तावेज़ करता है। मॉडल कॉल अपस्ट्रीम से भी सीमित हो सकते हैं, जो 429 के रूप में दिखता है — संख्याएँ हार्ड-कोड करने के बजाय X-RateLimit-* और Retry-After पढ़ें। हर जवाब में request_id होता है, और आप जो X-Request-Id भेजते हैं वह ज्यों का त्यों लौटता है, ताकि आपके और हमारे लॉग मिल सकें।

इमेज और वीडियो बैकग्राउंड में पूरे होते हैं

दोनों जनरेशन एंडपॉइंट नतीजे की जगह task_id लौटाते हैं। भेजें, पूछें, लाएँ — और ध्यान दें: टास्क बन जाने के बाद ज़्यादातर विफलताएँ HTTP त्रुटि के बजाय 200 के साथ अंतिम स्थिति बनकर आती हैं।

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

नतीजे से पहले स्थिति पढ़ें: failed और interrupted भी जवाब हैं, और error.message कारण बताता है। भेजते समय 402 का मतलब है कि टास्क कभी बना ही नहीं। SuperAgent अलग है: वह stream_key लौटाता है और SSE से इवेंट भेजता है, इसलिए पूछने के लिए कुछ नहीं है।

बेस URL बदलें, क्लाइंट रखें

बेस URL यहाँ की ओर इंगित होते ही दोनों SDK बिना बदलाव चलते हैं। npx feloapi-cli setup Claude Code और Codex दोनों के लिए वही कॉन्फ़िग लिखता है।

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

मॉडल ID हर प्रदाता में एक जैसे नहीं होते। बेस URL बदलने से पहले कैटलॉग से चुनें, वरना पहला कॉल 404 लौटाएगा।

वह आधा हिस्सा जो गेटवे आमतौर पर आप पर छोड़ देता है

LLM गेटवे मॉडल कॉल रूट करता है। यहाँ वही कुंजी ⁦5,000+⁩ API का कैटलॉग भी छूती है — इसलिए आपके एजेंट की खोज, उसकी बनाई स्लाइड और उसके दोबारा पढ़े दस्तावेज़ उन्हीं क्रेडिट से बिल होते हैं, तीन और प्रदाताओं से नहीं।

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

डेटा API कॉल /v1/beta के नीचे नामित प्रदाताओं के पास जाती हैं — Tavily, Exa, Apollo और बाक़ी कैटलॉग — हर एक अपने प्रकाशित आधार पर।

LLM गेटवे के बारे में छह सवाल