Felo OpenAPI vs LiteLLM

各社の公式価格と、Felo の料率

LiteLLM はトークンを再販しません。自分のキーで各社に転送するので、支払うのは各社の公式価格です。Felo は経路ごとに料率を公開しており、最も安いものは同じ公式価格の ⁦10⁩% から。

⁦GPT-6.1 Terra⁩ の場合、入力 1 億トークンと出力 1,000 万トークンで公式価格なら ⁦$150⁩、ここでは ⁦$30⁩ です。

自分で動かさなくていいもの

LiteLLM プロキシはインフラです。デプロイし、パッチを当て、稼働させ続ける必要があり、各社のキーはその中に置かれます。

• プロキシ本体 —— Docker、Kubernetes、Helm、その裏には Postgres。
• 各社のキーの控えをゲートウェイに置き、そこでローテーション。
• アップグレード、移行、そしてサービスを動かす以上ついてくる運用当番。

Felo は別の形です。base URL とキーが 1 つずつ、ゲートウェイの運用はこちら側です。

モデルゲートウェイにはない半分：⁦5,000+⁩ 個の API カタログ

LiteLLM はモデル呼び出しをルーティングします。Felo はモデル呼び出しをルーティングし、さらにデータ層からも答えます。同じキーで ⁦5,000+⁩ 個の API —— 検索、Web ページと文書の読み取り、スライド、エージェント実行。

調べ、読み、覚え、仕上げるエージェントを —— 2 社目を足さずに。

切り替えは 2 通り

LiteLLM をゲートウェイのままにして上流を Felo に向けるか、ゲートウェイを外して Felo を直接呼ぶか。どちらもリクエストボディは変わりません。

# config.yaml — keep LiteLLM, add Felo as upstream
model_list:
  - model_name: <model-id>
    litellm_params:
      model: openai/<model-id>
      api_base: https://openapi.felo.ai/api/v1
      api_key: os.environ/FELO_API_KEY

# or drop the proxy and call Felo directly:
client = OpenAI(base_url="https://openapi.felo.ai/api/v1", api_key=key)

2 つのカタログでモデル ID は同じではありません。base URL を変える前にモデルページで正しい ID を確認してください。

3 行で見る LiteLLM と Felo

LiteLLM 代替：切り替える前の確認事項