ডেটা লেয়ারসহ LLM গেটওয়ে

ছয়টি এন্ডপয়েন্ট, একটি নয়

/api/v1-এর নিচের সবকিছুই মডেল কল, তবে মডেলের ধরনই ঠিক করে কোন এন্ডপয়েন্ট উত্তর দিতে পারে — এবং প্রতিটি এন্ডপয়েন্ট নিজের ফরম্যাট ফেরত দেয়।

চ্যাটের তিনটি সারফেসই নেটিভ ইমপ্লিমেন্টেশন, অনুবাদের স্তর নয়: প্রতিটি নিজের প্রোটোকলে ইভেন্ট পাঠায়, তাই আপনি স্ট্রিম আগের মতোই পার্স করেন।

মডেলের ধরন দেখে এন্ডপয়েন্ট বাছুন, অনুমানে নয়

ক্যাটালগের প্রতিটি মডেলের সঙ্গে একটি model_kind থাকে, আর সেই ধরনই ঠিক করে কোন এন্ডপয়েন্ট তাকে কল করতে পারবে। খোঁজটা ফ্রি: এটি লোকাল ক্যাটালগ পড়ে।

# discover before you call — free, reads the catalog
GET /api/v1/models   # every kind, with channels and rates
GET /api/v1/models/{model_id}  # one model, in detail
GET /api/v1/videos/models     # video_generation only
GET /api/v1/decisions/models  # decisions only

?provider= দিয়ে একটিমাত্র প্রোভাইডার দেখুন, বা ?exclude_video_and_decisions=true দিয়ে চ্যাট ও ইমেজ ছাড়া সব লুকান। ক্যাটালগে থাকা কোনো প্রতিশ্রুতি নয়: ভিডিও মডেল চ্যাট অনুরোধের উত্তর দেয় না, আর API model_kind_mismatch ফেরত দেয়।

ডিফল্ট রুট, বা প্রোভাইডার বাছতে একটি হেডার

একটি মডেল একাধিক আপস্ট্রিম চ্যানেলে পরিবেশিত হতে পারে, প্রতিটির নিজস্ব প্রোভাইডার ও প্রকাশিত রেট। হেডার না দিলে প্ল্যাটফর্ম একটি বেছে নেয়; X-Felo-Channel দিলে আপনি বাছেন।

# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic  # ordered selection, not a retry list

• মান হলো মডেলের channels[].code থেকে নেওয়া পাবলিক চ্যানেল কোডের ক্রমবদ্ধ তালিকা, যা আপনি যে ক্রমে লিখেছেন সেই ক্রমেই যাচাই হয়।
• শুধু প্রথম চ্যানেলের প্রোভাইডার গ্রুপকে কল করা হয়, এবং আপনি সেই চ্যানেলের রেটই দেন।
• কোনো স্বয়ংক্রিয় সুইচ নেই। চ্যানেল তালিকা একটি পছন্দ, রিট্রাই নীতি নয় — কোনো প্রোভাইডার ব্যর্থ হলে আপনার অ্যাপ থেকেই অন্য চ্যানেল দিয়ে আবার পাঠান।

X-Felo-Channel উপরের ছয়টি জেনারেশন এন্ডপয়েন্টে কাজ করে। এটি ডেটা API বা Felo APIs-এ প্রযোজ্য নয়: ওই কলগুলো আপনার অনুরোধে যে প্রোভাইডার নাম দিয়েছেন সেখানেই যায়।

একটি কলে আসলে কত খরচ

মডেল কল টোকেন হিসেবে বিল হয় — ইনপুট, আউটপুট ও ক্যাশ — চ্যানেলের ছাড়-গুণকসহ। পাঠের সুবিধার্থে রেট প্রতি মিলিয়ন টোকেনে দেখানো হয়, তবে বিল হয় বর্তমান প্রাইস স্ন্যাপশটের প্রতি-টোকেন নির্ভুলতায়: ছোট অনুরোধ কখনো মিলিয়ন পর্যন্ত রাউন্ড হয় না।

• ক্যাশ রেট কেবল তখনই প্রযোজ্য যখন প্রোটোকলের উত্তর ক্যাশ ব্যবহারের কথা জানায়; যে মডেল জানায় না, সে সবকিছু ইনপুট রেটে গোনে।
• মডেল সার্ভিস নিজে চালিয়ে যে ওয়েব সার্চের কথা জানায়, তার দাম $0.01 প্রতি সার্চ।
• কিছু মডেল প্রম্পটের আকার অনুযায়ী ধাপে ধাপে রেট নেয়: Claude Haiku 5.5-এর ইনপুট $0.10 ও আউটপুট $0.50 প্রতি মিলিয়ন টোকেন, 100K টোকেন পর্যন্ত প্রম্পটে; তার বেশি হলে পুরো অনুরোধের জন্য $0.50 ও $2.50।
• প্রথম রিচার্জ $1। কোনো সাবস্ক্রিপশন নেই, প্রতি ব্যবহারকারীর ফি নেই, ন্যূনতম প্রতিশ্রুতি নেই — অব্যবহৃত কী-তে কোনো খরচ নেই।

ডেটা API কল ও Felo ওয়ার্কফ্লোও একই ব্যালেন্স থেকে কাটে, প্রতিটি নিজের প্রকাশিত ভিত্তিতে: প্রতি সফল অনুরোধ, প্রতি ফেরত দেওয়া আইটেম, বা প্রকৃত ব্যবহার অনুযায়ী।

দুটি সীমা যাদের চেহারা এক, প্রকৃতি নয়

ব্যালেন্স শেষ হলে 402 INSUFFICIENT_CREDITS আসে। খুব দ্রুত কল করলে 429 RATE_LIMITED। অপেক্ষা দ্বিতীয়টি ঠিক করে, প্রথমটি কখনোই না।

এখন কেবল /v2/chat কঠোর সীমা ডকুমেন্ট করে। মডেল কল আপস্ট্রিম থেকেও সীমিত হতে পারে, যা 429 হিসেবে দেখায় — সংখ্যা হার্ডকোড না করে X-RateLimit-* ও Retry-After পড়ুন। প্রতিটি উত্তরে request_id থাকে, আর আপনি যে X-Request-Id পাঠান তা হুবহু ফেরত আসে, যাতে আপনার ও আমাদের লগ মিলিয়ে দেখা যায়।

ইমেজ ও ভিডিও ব্যাকগ্রাউন্ডে শেষ হয়

জেনারেশনের দুটি এন্ডপয়েন্টই ফলাফলের বদলে task_id ফেরত দেয়। পাঠান, জিজ্ঞাসা করুন, আনুন — আর খেয়াল করুন: টাস্ক তৈরি হওয়ার পর বেশিরভাগ ব্যর্থতা HTTP ত্রুটি হিসেবে নয়, 200-এর সঙ্গে চূড়ান্ত স্ট্যাটাস হিসেবে আসে।

# submit, then poll the task
POST /api/v1/images/generations       → task_id
GET  /api/v1/images/generations/{id}  → status, result
POST /api/v1/videos/generations       → task_id
GET  /api/v1/videos/generations/{id}  → status, result

ফলাফলের আগে স্ট্যাটাস পড়ুন: failed ও interrupted-ও উত্তর, আর error.message কারণ জানায়। পাঠানোর সময় 402 মানে টাস্কটি কখনো তৈরি হয়নি। SuperAgent আলাদা: এটি stream_key দেয় এবং SSE-তে ইভেন্ট পাঠায়, তাই জিজ্ঞাসা করার কিছু নেই।

বেস URL বদলান, ক্লায়েন্ট রাখুন

বেস URL এখানে নির্দেশ করলেই দুটি SDK-ই কোনো পরিবর্তন ছাড়া চলে। npx feloapi-cli setup Claude Code ও Codex-এর জন্য একই কনফিগ লেখে।

# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"

# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"

# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}

মডেল ID সব প্রোভাইডারে এক নয়। বেস URL বদলানোর আগে ক্যাটালগ থেকে বেছে নিন, নাহলে প্রথম কল 404 ফেরত দেবে।

যে অর্ধেকটা গেটওয়ে সাধারণত আপনার উপরেই ছেড়ে দেয়

LLM গেটওয়ে মডেল কল রুট করে। এখানে একই কী ⁦5,000+⁩-এর API ক্যাটালগেও পৌঁছায় — তাই আপনার এজেন্টের সার্চ ধাপ, তার বানানো স্লাইড আর তার আবার পড়া ডকুমেন্ট একই ক্রেডিটে বিল হয়, আরও তিনটি প্রোভাইডারে নয়।

• Search
• PPT Task
• SuperAgent
• Web Fetch
• X Search
• Mindmap
• Landing Page Task
• LiveDoc
• YouTube Subtitling

ডেটা API কল /v1/beta-র নিচে নাম দেওয়া প্রোভাইডারদের কাছে যায় — Tavily, Exa, Apollo এবং ক্যাটালগের বাকিরা — প্রত্যেকে নিজের প্রকাশিত ভিত্তিতে।

LLM গেটওয়ে নিয়ে ছয়টি প্রশ্ন