LLM 閘道
自帶資料層的 LLM 閘道
三個 base URL、一把金鑰、一份餘額。用你現有的 SDK 呼叫對話、影像、影片與判定模型;搜尋、文件與簡報走同一份餘額——低至廠商官方價的一折。
10%
起價,對照廠商官方 API 價格
5,000+
同一目錄裡的 API
閘道通常只有一個存取面。這裡有三個。
它們共用你的帳號、金鑰和餘額,但回答的是不同的問題,位址也不一樣。分清楚自己在呼叫哪一個,就是這一頁的全部內容。
| 存取面 | Base URL | 用來做什麼 |
|---|---|---|
| 模型 API | openapi.felo.ai/api/v1 · openapi.felo.ai/api | 直接呼叫語言、影像、影片或判定模型 |
| 資料 API | openapi.felo.ai/v1/beta | 呼叫某個指定的第三方資料或搜尋供應商 |
| Felo APIs | openapi.felo.ai/v2 | Felo 自有的搜尋、辦公、擷取與知識類工作流程 |
一把金鑰涵蓋三者。儲值買到的是美元服務額度,模型呼叫、資料 API 呼叫和 Felo 工作流程都從同一份扣——不必為每個供應商另開帳號。
讀文件是六個端點,不是一個
/api/v1 底下全是模型呼叫,但模型種類決定哪個端點能接;每個端點回傳的格式也不一樣。
| 端點 | 協定 | 回傳 |
|---|---|---|
POST /api/v1/chat/completions | OpenAI Chat Completions | 串流或單次回應 |
POST /api/v1/responses | OpenAI Responses | 串流或單次回應 |
POST /api/v1/messages | Anthropic Messages | 串流或單次回應 |
POST /api/v1/images/generations | OpenAI 影像回應體 | 用來輪詢的 task_id |
POST /api/v1/videos/generations | OpenAI 影片回應體 | 用來輪詢的 task_id |
POST /api/v1/decisions | Felo 決策協定 | 結構化答案,不支援串流 |
三個對話端點都是原生實作,不是協定轉換層:各自照自己的協定推送串流,所以原本的串流怎麼解析,現在還怎麼解析。
按模型種類選端點,別用猜的
目錄裡每個模型都帶一個 model_kind,種類決定哪個端點能呼叫它。查目錄不花錢,讀的就是本機目錄。
# discover before you call — free, reads the catalog
GET /api/v1/models # every kind, with channels and rates
GET /api/v1/models/{model_id} # one model, in detail
GET /api/v1/videos/models # video_generation only
GET /api/v1/decisions/models # decisions only| model_kind | 端點 |
|---|---|
chat | Responses、Chat Completions 或 Messages,取決於模型支援哪些 |
image_generation | POST /api/v1/images/generations |
video_generation | POST /api/v1/videos/generations |
decisions | POST /api/v1/decisions |
加 ?provider= 只看某一家,加 ?exclude_video_and_decisions=true 只留對話和影像。上架不等於通行:影片模型不會回答對話請求,硬送會收到 model_kind_mismatch。
預設路由,或是一個 header 指定供應商
同一個模型可能由多條上游通道提供,每條通道有自己的供應商和自己的公布費率。不帶 header,平台替你選一條;帶上 X-Felo-Channel,由你決定。
# first channel only — no automatic fallback
X-Felo-Channel: claude-cc
X-Felo-Channel: claude-cc,anthropic # ordered selection, not a retry list- 值是有序的公開通道代碼清單,取自模型的
channels[].code,照你寫的順序驗證。 - 只會提交第一條通道對應的供應商群組,計價也照那條通道的費率。
- 沒有自動 fallback。通道清單是一次選擇,不是重試策略——供應商掛了,由你的應用程式換一條通道重送。
X-Felo-Channel 對上面六個生成端點都有效。它不作用於資料 API 和 Felo APIs:那兩邊走的是你在請求裡點名的供應商。
一次呼叫到底怎麼算錢
模型呼叫按 token 計費——輸入、輸出、快取——再乘上通道的折扣係數。費率按每 1M token 呈現是為了易讀,但計費用的是目前價格快照的逐 token 精度,短請求不會被湊整成一百萬。
- 只有協定回應裡回報了快取用量,才按快取價計費;沒回報快取的模型,全部按輸入價算。
- 模型服務實際執行並回報的網頁搜尋,每次 $0.01。
- 有些模型按 prompt 長度分級:Claude Haiku 5.5 在 100K token 以內是每 1M 輸入 $0.10、輸出 $0.50,超過之後整個請求按 $0.50 與 $2.50 計。
- 首次儲值 $1 起。沒有訂閱、沒有席位費、沒有最低消費——不用的金鑰不花錢。
資料 API 呼叫與 Felo 工作流程從同一份餘額扣,各自照公布口徑:按成功請求、按回傳筆數,或按實際用量。
看費率與額度兩個長得很像、其實完全不同的限制
餘額不夠回傳 402 INSUFFICIENT_CREDITS;呼叫太快回傳 429 RATE_LIMITED。等一等能解掉第二個,永遠解不掉第一個。
| 狀態 | 錯誤碼 | 怎麼辦 |
|---|---|---|
| 401 | UNAUTHORIZED | 換一把金鑰或重新簽發 |
| 402 | INSUFFICIENT_CREDITS | 到主控台帳單儲值,再重送 |
| 404 | 取決於端點 | 核對模型、任務或路由 ID |
| 429 | RATE_LIMITED | 等 Retry-After,然後重試 |
| 5xx | CHAT_FAILED、SERVICE_UNAVAILABLE | 指數退避加隨機抖動後重試 |
目前只有 /v2/chat 公布了強制限流。模型呼叫仍可能被上游限流,表現為 429——讀 X-RateLimit-* 和 Retry-After,不要寫死數字。每個回應都帶 request_id,你送的 X-Request-Id 會原樣回顯,兩邊日誌能對上。
影像和影片在背景跑完
兩個生成端點都不直接給結果,而是回傳 task_id。提交、輪詢、取結果——注意任務一旦建立,多數失敗是 200 裡帶一個終態,而不是 HTTP 錯誤。
# submit, then poll the task
POST /api/v1/images/generations → task_id
GET /api/v1/images/generations/{id} → status, result
POST /api/v1/videos/generations → task_id
GET /api/v1/videos/generations/{id} → status, result先看狀態再看產物:failed 和 interrupted 也是答案,原因在 error.message 裡。提交時就收到 402,說明任務根本沒建立起來。SuperAgent 不一樣——它回傳 stream_key,用 SSE 推送事件,沒有東西可以輪詢。
換 base URL,用戶端不用動
把 base URL 指過來,兩個 SDK 都不用改。npx feloapi-cli setup 會給 Claude Code 和 Codex 寫好同樣的設定。
# OpenAI SDK
base_url = "https://openapi.felo.ai/api/v1"
# Anthropic SDK — one level up; the SDK appends /v1/messages
base_url = "https://openapi.felo.ai/api"
# pin a provider (optional)
default_headers = {"X-Felo-Channel": "claude-cc"}模型 ID 在不同供應商之間並不通用。換 base URL 之前先從目錄裡選好模型,否則第一次呼叫就是 404。
閘道通常留給你的那一半
LLM 閘道只負責轉發模型呼叫。這裡的同一把金鑰還夠得到 5,000+ 的完整 API 目錄——agent 裡的搜尋、它產生的簡報、它讀回來的文件,都扣同一份餘額,不必再接三家供應商。
- Search
- PPT Task
- SuperAgent
- Web Fetch
- X Search
- Mindmap
- Landing Page Task
- LiveDoc
- YouTube Subtitling
資料 API 走 /v1/beta,各家照自己的公布口徑計費——Tavily、Exa、Apollo,以及目錄裡其餘的。
閘道到此為止
- 通道之間沒有自動 failover——重試邏輯歸你的應用程式,這是故意的。
- 上架不等於相容保證:每種模型種類只有一個呼叫面。
- 模型呼叫沒有公布平台限流,但上游供應商的限制仍然生效。
- 額度是預付的,不可退、不可提領——照你打算花的量儲值。
關於 LLM 閘道,六個常被問到的問題
LLM 閘道是什麼?
把眾多模型供應商收到一個端點前面,讓你的程式只面對一個 base URL、一把金鑰和一份餘額,而不是十幾個廠商 SDK。AI 閘道做的是同一件事;這裡的閘道還順帶賣 agent 需要的資料 API。
現有的 OpenAI 或 Anthropic SDK 還能用嗎?
能。Chat Completions 和 Responses 是 OpenAI 的形狀,Messages 是原生的。base URL 分別是 https://openapi.felo.ai/api/v1 和 https://openapi.felo.ai/api——後者高一層,因為那個 SDK 自己會拼 /v1/messages。
怎麼知道該呼叫哪個模型?
GET /api/v1/models 列出所有種類及其通道和費率;影片和判定模型各有自己的清單。看 model_kind,呼叫對應的端點;同時記住上架不等於每個端點都收這個模型。
供應商掛了會自動切換嗎?
不會,這是有意的。通道清單是一次選擇,不是重試策略:只提交第一條。切換應該放在你的應用程式裡,那裡才看得見錯誤、預算和真正想要的備援。
多少錢?
每個模型都有一個 Felo 費率,低至廠商官方價的一折;你釘住哪條通道,就照哪條通道的費率付。預付、按次計費、首次儲值 $1 起,不收訂閱費。
影像、影片和資料 API 也能呼叫嗎?
能。一把金鑰同時涵蓋對話、影像、影片和判定模型,以及 /v1/beta 背後 5,000+ 的 API 目錄——全部從同一份餘額扣。
先用一次呼叫試試
建立金鑰、儲值,把你已經在用的 SDK 指向一個 base URL。