তুলনা
Felo OpenAPI বনাম LiteLLM
LiteLLM হলো সেই গেটওয়ে যা আপনি ডিপ্লয় করে নিজে চালান। Felo হলো সেই গেটওয়ে যা আপনি কল করেন: একই OpenAI-সামঞ্জস্যপূর্ণ রূপ, তালিকা মূল্যের নিচে হার, আর একটি এজেন্টের প্রয়োজনীয় ডেটা API — একটিমাত্র কী-তে।
10%
শুরুর হার, প্রোভাইডারের অফিসিয়াল API মূল্যের তুলনায়
5,000+
একই ক্যাটালগে API
প্রোভাইডারের তালিকা মূল্য, Felo-র হারের পাশে
LiteLLM টোকেন পুনর্বিক্রি করে না: এটি আপনার নিজের কী দিয়ে আপনার কল প্রোভাইডারদের কাছে পাঠায়, তাই আপনি প্রত্যেকের তালিকা মূল্যই দেন। Felo প্রতিটি রুটের জন্য হার প্রকাশ করে, আর সবচেয়ে কম হার ওই তালিকা মূল্যের 10% থেকে শুরু হয়।
openai-mix
ইনপুট টোকেন$1$0.2আউটপুট টোকেন$5$1openai-mix
ইনপুট টোকেন$2$0.6আউটপুট টোকেন$12$3.6claude-mix
ইনপুট টোকেন$2$0.7আউটপুট টোকেন$10$3.5claude-mix
ইনপুট টোকেন$4$1.4আউটপুট টোকেন$20$7claude-mix
ইনপুট টোকেন$10$3.5আউটপুট টোকেন$50$17.5
GPT-6.1 Terra-এ 10 কোটি ইনপুট ও 1 কোটি আউটপুট টোকেনের তালিকা মূল্য $150 — এখানে $30।
হার প্রতি ১ কোটি টোকেনে, প্রতিটি অনুরোধে লাইভ ক্যাটালগ থেকে পড়া হয়। LiteLLM নিজে কোনো মার্জিন যোগ করে না, তাই তার বিল আপনার কী-তে প্রোভাইডারের তালিকা মূল্যই।
সব মডেল ও হার দেখুনযা আপনাকে নিজে চালাতে হয় না
LiteLLM প্রক্সি একটি ইনফ্রাস্ট্রাকচার: ডিপ্লয় করতে হয়, প্যাচ করতে হয়, অনলাইনে রাখতে হয়, আর প্রোভাইডারের কী থাকে তার ভেতরে।
- প্রক্সিটি নিজেই — Docker, Kubernetes বা Helm, আর পেছনে Postgres।
- প্রত্যেক প্রোভাইডারের কী-র একটি কপি, গেটওয়েতে রাখা এবং সেখানেই ঘোরানো।
- আপগ্রেড, মাইগ্রেশন, আর একটি সার্ভিস চালানোর সঙ্গে আসা অন-কল ডিউটি।
Felo-র বিন্যাস আলাদা: একটি base URL আর একটি কী, আর গেটওয়ে আমরা চালাই।
একটি মডেল গেটওয়েতে যা থাকে না: 5,000+ API-র ক্যাটালগ
LiteLLM মডেল কল রাউট করে। Felo সেগুলো রাউট করে এবং একটি ডেটা স্তর থেকেও উত্তর দেয়: একই কী-তে 5,000+ API — সার্চ, পেজ ও ডকুমেন্ট পড়া, স্লাইড এবং এজেন্ট রান।
Search
রিয়েল-টাইম ওয়েব সার্চ, উত্তর ও উদ্ধৃত সূত্রসহ।
Web Fetch
যেকোনো পেজ পরিষ্কার HTML, টেক্সট বা Markdown হিসেবে।
X Search
X থেকে পোস্ট, ব্যবহারকারী, টাইমলাইন ও উত্তর।
YouTube Subtitling
একটি ভিডিওর ট্রান্সক্রিপ্ট, চাইলে টাইমস্ট্যাম্পসহ।
LiveDoc
নথি ও URL আপলোড করুন, তারপর সিম্যান্টিক রিট্রিভাল চালান।
SuperAgent
SSE-তে স্ট্রিম হওয়া মাল্টি-স্টেপ এজেন্ট রান।
PPT
স্লাইড ডেক পেজ ধরে ধরে তৈরি হয় ও PPTX-এ এক্সপোর্ট হয়।
Mindmap
কোনো বিষয় বা LiveDoc থেকে কাঠামোবদ্ধ মাইন্ডম্যাপ।
Landing Page
HTML হিসেবে তৈরি ক্যাম্পেইন পেজ।
এমন একটি এজেন্ট যা খোঁজে, পড়ে, মনে রাখে এবং শেষ করে — দ্বিতীয় কোনো ভেন্ডর ছাড়াই।
API ডিরেক্টরি দেখুনবদলানোর দুটি উপায়
LiteLLM-কে গেটওয়ে রেখে তার upstream Felo-তে দেখান, বা গেটওয়ে বাদ দিয়ে সরাসরি Felo কল করুন। দুটোতেই রিকোয়েস্ট বডি বদলায় না।
# config.yaml — keep LiteLLM, add Felo as upstream
model_list:
- model_name: <model-id>
litellm_params:
model: openai/<model-id>
api_base: https://openapi.felo.ai/api/v1
api_key: os.environ/FELO_API_KEY
# or drop the proxy and call Felo directly:
client = OpenAI(base_url="https://openapi.felo.ai/api/v1", api_key=key)দুই ক্যাটালগে মডেল ID আলাদা, তাই base URL বদলানোর আগে মডেল পেজে সঠিক ID দেখে নিন।
তিন লাইনে LiteLLM ও Felo
| Felo API Platform | LiteLLM | |
|---|---|---|
| মূল্যের ভিত্তি | প্রোভাইডারের অফিসিয়াল API মূল্যের 10% থেকে | প্রোভাইডারের তালিকা মূল্য, আপনার কী-তে বিল |
| কোথায় চলে | হোস্টেড; ডিপ্লয় করার কিছু নেই | সেলফ-হোস্টেড প্রক্সি, পেছনে Postgres |
| মডেল কলের বাইরে | একই কী-তে 5,000+ API-র ক্যাটালগ | গেটওয়ে দিয়ে MCP টুল ও A2A এজেন্ট |
LiteLLM এখনো যেখানে ভালো
- আপনার নিজের নেটওয়ার্কে, আপনার নিজের প্রোভাইডার কী দিয়ে চলে।
- MIT লাইসেন্সের ওপেন সোর্স, তাই রাউটিং কোড আপনার।
- এন্টারপ্রাইজ সংযোজন: SSO, SCIM, অডিট লগ, টিম অ্যাডমিন এবং বহু-অঞ্চল ডিপ্লয়মেন্ট।
প্রয়োজন যদি গেটওয়ের উপর পূর্ণ নিয়ন্ত্রণ হয়, সেটাই নির্ধারক। আর বিল ও ডেটা স্তরই যদি বিবেচ্য হয়, উপরের তিন লাইনই নির্ধারক।
LiteLLM-এর বিকল্প: বদলানোর আগে কিছু প্রশ্ন
Felo কি OpenAI-সামঞ্জস্যপূর্ণ?
হ্যাঁ। চ্যাট কল https://openapi.felo.ai/api/v1-এ OpenAI Chat Completions স্কিমা ব্যবহার করে, তাই আপনার বিদ্যমান SDK আর রিকোয়েস্ট বডি কাজ করে চলে। Anthropic ক্লায়েন্ট https://openapi.felo.ai/api ব্যবহার করে — এক ধাপ উপরে, কারণ ওই SDK নিজেই /v1/messages যোগ করে।
LiteLLM কি Felo-র সামনে রাখা যাবে?
যাবে। LiteLLM যেকোনো OpenAI-সামঞ্জস্যপূর্ণ এন্ডপয়েন্ট কল করে: config.yaml-এ প্রতিটি মডেলে openai/ প্রিফিক্স দিন, api_base দিন https://openapi.felo.ai/api/v1 এবং api_key দিন আপনার Felo কী। ভার্চুয়াল কী, বাজেট ও লগ যথাস্থানে থাকে।
LiteLLM যে দাম পাঠায় তার চেয়ে হার কম কেন?
LiteLLM আপনার কী দিয়ে প্রোভাইডারদের কাছে পাঠায়, তাই তালিকা মূল্যই নেয়। Felo প্রতিটি রুটের নিজস্ব হার প্রকাশ করে, ওই তালিকা মূল্যের 10% থেকে শুরু; পরে কোনো ফেরত দেওয়া হয় না।
আমাকে কি কিছু নিজে হোস্ট করতে হবে?
না। Felo হোস্টেড: কী তৈরি করে অনুরোধ পাঠান। চালানোর জন্য কোনো প্রক্সি নেই, রাখার জন্য কোনো ডেটাবেস নেই।
ইমেজ ও ভিডিও মডেলও কল করা যাবে?
যাবে। একটি কী 30টি চ্যাট, 15টি ইমেজ ও 10টি ভিডিও মডেল পর্যন্ত পৌঁছায়, প্রত্যেকে নিজের প্রকাশিত হারে, একই ব্যালেন্স থেকে।
সাবস্ক্রিপশন লাগবে?
না। ব্যবহার প্রিপেইড এবং প্রকাশিত হারে প্রতিটি কলে কাটা হয় — কোনো সাবস্ক্রিপশন নেই, সিট ফি নেই, ন্যূনতম অঙ্গীকার নেই।
মাইগ্রেট করার আগে একটি কলে চেষ্টা করুন
একটি কী তৈরি করুন, $1 থেকে ব্যালেন্স যোগ করুন, আর যে SDK আপনি আগে থেকেই ব্যবহার করেন তা দিয়ে একটি অনুরোধ পাঠান।