Felo OpenAPI vs LiteLLM

각 사 공식가와 Felo 요율

LiteLLM은 토큰을 재판매하지 않습니다. 자신의 키로 각 사에 요청을 전달하므로 각 사의 공식가를 지불합니다. Felo는 경로마다 요율을 공개하며, 가장 낮은 요율은 같은 공식가의 ⁦10⁩%부터입니다.

⁦GPT-6.1 Terra⁩ 기준으로 입력 1억 토큰과 출력 1,000만 토큰이면 공식가로 ⁦$150⁩, 여기서는 ⁦$30⁩입니다.

직접 운영하지 않아도 되는 것

LiteLLM 프록시는 인프라입니다. 배포하고 패치하고 계속 띄워야 하며, 각 사 키가 그 안에 들어갑니다.

• 프록시 자체 — Docker, Kubernetes 또는 Helm, 그 뒤에는 Postgres.
• 각 사 키 사본을 게이트웨이에 두고 거기서 교체.
• 업그레이드, 마이그레이션, 그리고 서비스를 운영하면 따라오는 당직.

Felo는 다른 방식입니다. base URL 하나, 키 하나, 게이트웨이 운영은 우리 몫입니다.

모델 게이트웨이에 없는 나머지 절반: ⁦5,000+⁩개 API 카탈로그

LiteLLM은 모델 호출을 라우팅합니다. Felo는 모델 호출을 라우팅하면서 데이터 계층에서도 답합니다. 같은 키로 ⁦5,000+⁩개 API — 검색, 웹페이지와 문서 읽기, 슬라이드, 에이전트 실행.

조사하고, 읽고, 기억하고, 완성하는 에이전트 — 두 번째 업체 없이.

전환은 두 가지

LiteLLM을 게이트웨이로 두고 업스트림을 Felo로 돌리거나, 게이트웨이를 없애고 Felo를 직접 호출하면 됩니다. 어느 쪽이든 요청 본문은 바뀌지 않습니다.

# config.yaml — keep LiteLLM, add Felo as upstream
model_list:
  - model_name: <model-id>
    litellm_params:
      model: openai/<model-id>
      api_base: https://openapi.felo.ai/api/v1
      api_key: os.environ/FELO_API_KEY

# or drop the proxy and call Felo directly:
client = OpenAI(base_url="https://openapi.felo.ai/api/v1", api_key=key)

두 카탈로그의 모델 ID는 같지 않습니다. base URL을 바꾸기 전에 모델 페이지에서 정확한 ID를 확인하세요.

세 줄로 보는 LiteLLM과 Felo

LiteLLM 대안: 전환 전 확인할 것들