LLM 智慧代理 API 閘道

適用於程式開發與工作流程代理的 LLM API 閘道

用一個預付費閘道連接程式開發代理、工作流程、工具呼叫應用程式和本機 AI 用戶端。選擇相容 OpenAI、Responses 或 Messages 的端點,依任務切換模型。

統一閘道與逐一整合模型的差異

智慧代理需要模型端點、工具呼叫迴圈、狀態或記憶,以及費用控制。這裡處理端點層:一組金鑰、多種模型與熟悉的 API 格式。

本平台閘道直接整合供應商
端點格式相容 Chat Completions、Responses 與 Messages各供應商使用不同 SDK 和 URL
代理工具可用於 Claude Code、Codex CLI、OpenClaw、Dify、n8n、LangChain、OpenWebUI、Cherry Studio 與 LM Studio每個工具分別設定供應商
模型切換同一金鑰連接 Claude、GPT、Grok、Kimi、Doubao、GLM、DeepSeek、MiniMax、MiMo 與 StepFun 路由帳號、金鑰、計費與限制分開管理
費用控制預付餘額;依各模型公布的輸入、輸出與快取費率計費各供應商採用各自的計費規則
企業合約不提供原廠 SLA可向原廠洽詢企業合約
最低延遲取決於路由與上游只使用固定模型時,直接連線可能更合適

哪些代理適合使用

適合以下需求

  • 為程式開發、工作流程、客服或內部自動化代理提供模型 API
  • 先測試多種模型,再決定主要供應商
  • 用戶端支援 OpenAI、Responses 或 Anthropic Messages 相容格式
  • 希望使用預付額度、模型倍率並保留未使用的額度

不適合以下需求

  • 需要包含記憶、規劃器、向量儲存與介面的完整代理框架
  • 採購要求與原廠直接簽約及簽署資料處理條款
  • 只使用一家原廠且現有計費已穩定
  • 要求所有上游路由都有公開 SLA

這裡的代理 API 指什麼

「AI 代理」和「LLM 代理」涵蓋許多產品。本頁僅承諾模型 API 整合層。

  • 提供模型 API 閘道,不提供完整代理框架。
  • 提示詞、工具、狀態、重試、評測與監控仍需由你的應用程式實作。
  • 模型可用性可能變動;移轉正式流量前請核對價格頁並聯絡支援。
  • 採購必須直接對接原廠時,應選擇原廠服務。

整合代理前需要核對的事實

推薦或整合前,請確認下列端點與額度規則。

基底 URLhttps://api.llm-token.cn/v1用戶端要求 OpenAI 風格基底 URL 時使用。
聊天端點https://api.llm-token.cn/v1/chat/completions用於傳統聊天補全用戶端及許多本機工具。
Responses 端點https://api.llm-token.cn/v1/responses用於採用 OpenAI Responses 請求格式的代理。
Messages 端點https://api.llm-token.cn/v1/messages用於 Claude 相容及 Anthropic Messages 用戶端。
網站根位址https://api.llm-token.cn僅在用戶端會自行附加 /v1 時使用。
額度不會到期預付額度不會重設或到期。

這是相容 API 閘道。正式使用前請驗證實際代理任務、路由、延遲與錯誤處理。

代理 API 常見問題

什麼是 AI 代理 API?

它是代理在規劃、呼叫工具和完成任務時使用的模型端點層。工具、記憶、重試與評測仍由你的應用程式或框架負責。

什麼是 LLM 代理?

它是利用語言模型規劃任務、呼叫工具、保存任務狀態並完成多步工作的軟體。模型端點只是其中一層。

如何透過閘道開發代理?

選擇框架支援的端點格式,設定基底 URL 與 API 金鑰,從價格頁選擇模型,再實作工具迴圈、重試、狀態與評測。

它能取代 LangChain、Dify、n8n 或 OpenClaw 嗎?

不能。這些是代理框架或工作流程工具;閘道為它們提供相容模型端點與預付額度。

應該使用哪個端點?

多數 OpenAI 風格工具使用 /v1 或 /v1/chat/completions;較新的工作流程可能使用 /v1/responses;Claude 相容工具通常使用 /v1/messages。

用一組 API 金鑰連接代理工具組

取得 API 存取權,將用戶端連接到閘道;需要選擇路由時,可透過 Telegram 洽詢支援。