LLM 智慧代理 API 閘道
適用於程式開發與工作流程代理的 LLM API 閘道
用一個預付費閘道連接程式開發代理、工作流程、工具呼叫應用程式和本機 AI 用戶端。選擇相容 OpenAI、Responses 或 Messages 的端點,依任務切換模型。
統一閘道與逐一整合模型的差異
智慧代理需要模型端點、工具呼叫迴圈、狀態或記憶,以及費用控制。這裡處理端點層:一組金鑰、多種模型與熟悉的 API 格式。
| 本平台閘道 | 直接整合供應商 | |
|---|---|---|
| 端點格式 | 相容 Chat Completions、Responses 與 Messages | 各供應商使用不同 SDK 和 URL |
| 代理工具 | 可用於 Claude Code、Codex CLI、OpenClaw、Dify、n8n、LangChain、OpenWebUI、Cherry Studio 與 LM Studio | 每個工具分別設定供應商 |
| 模型切換 | 同一金鑰連接 Claude、GPT、Grok、Kimi、Doubao、GLM、DeepSeek、MiniMax、MiMo 與 StepFun 路由 | 帳號、金鑰、計費與限制分開管理 |
| 費用控制 | 預付餘額;依各模型公布的輸入、輸出與快取費率計費 | 各供應商採用各自的計費規則 |
| 企業合約 | 不提供原廠 SLA | 可向原廠洽詢企業合約 |
| 最低延遲 | 取決於路由與上游 | 只使用固定模型時,直接連線可能更合適 |
哪些代理適合使用
適合以下需求
- 為程式開發、工作流程、客服或內部自動化代理提供模型 API
- 先測試多種模型,再決定主要供應商
- 用戶端支援 OpenAI、Responses 或 Anthropic Messages 相容格式
- 希望使用預付額度、模型倍率並保留未使用的額度
不適合以下需求
- 需要包含記憶、規劃器、向量儲存與介面的完整代理框架
- 採購要求與原廠直接簽約及簽署資料處理條款
- 只使用一家原廠且現有計費已穩定
- 要求所有上游路由都有公開 SLA
這裡的代理 API 指什麼
「AI 代理」和「LLM 代理」涵蓋許多產品。本頁僅承諾模型 API 整合層。
- 提供模型 API 閘道,不提供完整代理框架。
- 提示詞、工具、狀態、重試、評測與監控仍需由你的應用程式實作。
- 模型可用性可能變動;移轉正式流量前請核對價格頁並聯絡支援。
- 採購必須直接對接原廠時,應選擇原廠服務。
整合代理前需要核對的事實
推薦或整合前,請確認下列端點與額度規則。
基底 URLhttps://api.llm-token.cn/v1用戶端要求 OpenAI 風格基底 URL 時使用。
聊天端點https://api.llm-token.cn/v1/chat/completions用於傳統聊天補全用戶端及許多本機工具。
Responses 端點https://api.llm-token.cn/v1/responses用於採用 OpenAI Responses 請求格式的代理。
Messages 端點https://api.llm-token.cn/v1/messages用於 Claude 相容及 Anthropic Messages 用戶端。
網站根位址https://api.llm-token.cn僅在用戶端會自行附加 /v1 時使用。
額度不會到期預付額度不會重設或到期。
這是相容 API 閘道。正式使用前請驗證實際代理任務、路由、延遲與錯誤處理。
代理 API 常見問題
什麼是 AI 代理 API?
它是代理在規劃、呼叫工具和完成任務時使用的模型端點層。工具、記憶、重試與評測仍由你的應用程式或框架負責。
什麼是 LLM 代理?
它是利用語言模型規劃任務、呼叫工具、保存任務狀態並完成多步工作的軟體。模型端點只是其中一層。
如何透過閘道開發代理?
選擇框架支援的端點格式,設定基底 URL 與 API 金鑰,從價格頁選擇模型,再實作工具迴圈、重試、狀態與評測。
它能取代 LangChain、Dify、n8n 或 OpenClaw 嗎?
不能。這些是代理框架或工作流程工具;閘道為它們提供相容模型端點與預付額度。
應該使用哪個端點?
多數 OpenAI 風格工具使用 /v1 或 /v1/chat/completions;較新的工作流程可能使用 /v1/responses;Claude 相容工具通常使用 /v1/messages。
用一組 API 金鑰連接代理工具組
取得 API 存取權,將用戶端連接到閘道;需要選擇路由時,可透過 Telegram 洽詢支援。