返回部落格列表

Step-3.7-Flash API 指南:價格、256K 上下文與 Agent/Coding 工作流

StepFunstep-3.7-flashAgentAI 程式開發多模態模型

StepFun/階躍星辰在 2026 年 5 月 29 日發布了 step-3.7-flash。從官方定位來看,這不是單純追求聊天體驗的通用模型,而是更明確地瞄準 Agent、Coding 與多模態工作流:長上下文、推理強度控制、圖片與影片理解、OpenAI/Anthropic 相容接口,以及可本地部署的開權重路線,都是它被拿來評估的重點。

如果你的團隊正在做高頻 Agent、自動程式碼生成與修復、長文件理解、截圖轉程式碼,或票據轉表格這類混合任務,step-3.7-flash 值得放進候選清單。不過也要先說清楚:本文提到的速度、參數量與能力描述主要來自官方發布頁與模型卡;在第三方基準測試和真實業務壓測更充分以前,對外引用時應保留「官方公布」這個語境。

核心規格速覽

項目 資訊
模型 ID step-3.7-flash
發布方 StepFun/階躍星辰
官方發布日期 2026-05-29
定位 旗艦多模態推理模型,面向 Agent、Coding、多模態工作流
架構 MoE
參數規模 約 198B 總參數,約 11B 啟用參數;模型卡描述為 196B 語言主幹 + 1.8B 視覺編碼器
上下文長度 256K tokens
生成速度 廠商稱最高可達 400 tokens/s
推理強度 支援 lowmediumhigh reasoning effort
API 相容性 OpenAI Chat Completions、Anthropic Messages
開權重與授權 模型卡與權重以 Apache-2.0 釋出
推理框架 vLLM、SGLang、Transformers、llama.cpp、NVIDIA NIM

這組規格的關鍵不只在「大」,而在於取捨。MoE 架構讓模型能在總參數規模很高的前提下,只啟用其中一部分專家參與推理;官方給出的約 11B 啟用參數,對延遲與成本控制很重要。256K 上下文則讓它更適合處理完整專案、長規格書、多輪工具調用紀錄,或含有多份附件的企業流程。

為什麼它適合 Agent 與 Coding

Agent 工作流最怕兩件事:模型看不完整上下文,以及每一步工具調用都太慢。step-3.7-flash 的 256K tokens 上下文可以承載更長的任務狀態,例如需求文檔、歷史對話、工具返回、程式碼片段與中間計畫。對需要多步推理的流程來說,這能減少反覆摘要造成的資訊損耗。

官方也提供 lowmediumhigh 三種 reasoning effort。這在生產系統裡比單一「最強模式」更實用:

  • low 適合分類、路由、簡單抽取、低風險草稿。
  • medium 適合一般問答、程式碼補全、文檔整理。
  • high 適合複雜修 bug、跨檔案改造、嚴格格式轉換、多步 Agent 規劃。

Coding 場景則可以把它放在兩類任務上觀察:一類是生成與修復,例如根據錯誤訊息修改函式、補測試、重構模組;另一類是理解與轉換,例如讀取長程式碼庫、解釋架構、把截圖中的 UI 還原成前端程式碼。真正上線前,建議用自己的 repository、lint/test pipeline、PR 審查規則做小批量評估,而不是只看通用榜單。

多模態場景:圖片、影片與結構化輸出

step-3.7-flash 被定位為多模態推理模型,模型卡中也把視覺編碼器作為獨立組成部分列出。這讓它不只是「看圖聊天」,而是可以進入更偏工作流的任務:

  • 讀取產品截圖,生成對應的 HTML/CSS 或前端元件草稿。
  • 理解票據、發票、表格截圖,轉成結構化欄位或 CSV。
  • 分析圖片與影片內容,生成摘要、標註、審核結果。
  • 對長文件中的圖片、表格、正文一起做交叉理解。

多模態任務尤其需要實測。不同圖片解析度、OCR 難度、影片抽幀策略、輸出格式約束,都會明顯影響效果。比較穩妥的做法是先建立一組內部 golden set:包含清晰票據、模糊票據、複雜 UI、長表格、真實客訴附件,再用固定 prompt 和評分規則比較模型表現。

API 區域、協議與價格

官方提供中國區與國際區入口:

  • 中國區 Base URL:https://api.stepfun.com/v1
  • 國際區 Base URL:https://api.stepfun.ai/v1

協議上,step-3.7-flash 相容 OpenAI Chat Completions,也相容 Anthropic Messages。這對已經使用 OpenAI SDK、Claude SDK、Claude Code 類工具,或自建模型路由層的團隊會比較友好,因為接入成本主要落在 base_urlmodel、鑑權與少量參數適配上。

價格按區域有所不同:

區域 輸入未命中快取 輸入快取命中 輸出
中國區 1.35 元/M tokens 0.27 元/M tokens 8.1 元/M tokens
國際區 $0.20/M tokens $0.04/M tokens $1.15/M tokens

對 Agent 和長上下文應用來說,快取價格值得特別關注。如果系統 prompt、工具說明、長文檔前綴、程式碼庫摘要能穩定復用,快取命中會直接影響單次任務成本。相反,如果每次請求上下文都高度變動,即使模型單價看起來便宜,總成本也可能被長輸入拉高。

下一步:放進真實 Agent 流程測試

如果你正在評估 step-3.7-flash 用於 Coding Agent 或多模態工作流,可以先把商業接入路線確認清楚:

  • 查看 LLM API 價格,比較 StepFun 類路線與其他模型的 Token 成本。
  • 閱讀 API 文件,確認 OpenAI 相容、Responses、Messages、Claude Code 與 Codex CLI 的接入方式。
  • 購買 API 存取,用一個 Key 測試 StepFun、GPT、Claude、Qwen、Kimi、GLM、DeepSeek 等路線。

OpenAI 相容調用示例

如果使用 OpenAI Chat Completions 風格,核心差異通常是 base_urlmodel

from openai import OpenAI

client = OpenAI(
    api_key="your-stepfun-api-key",
    base_url="https://api.stepfun.ai/v1"
)

response = client.chat.completions.create(
    model="step-3.7-flash",
    messages=[
        {"role": "system", "content": "你是謹慎的程式碼審查助手。"},
        {"role": "user", "content": "請閱讀這段錯誤訊息,推測最可能的修復方向:..."}
    ],
    temperature=0.2
)

print(response.choices[0].message.content)

中國區可把 base_url 換成 https://api.stepfun.com/v1。實際參數名稱、reasoning effort 的傳入方式,以及多模態內容格式,仍應以當前官方 API 文件為準。

Anthropic Messages 相容接入

如果你的系統已經圍繞 Claude Messages 建立,例如使用 messages.createmax_tokenssystem 等結構,step-3.7-flash 的 Anthropic Messages 相容能力可以降低改造成本:

import anthropic

client = anthropic.Anthropic(
    api_key="your-stepfun-api-key",
    base_url="https://api.stepfun.ai/v1"
)

message = client.messages.create(
    model="step-3.7-flash",
    max_tokens=2048,
    system="你是熟悉前端工程的多模態助手。",
    messages=[
        {
            "role": "user",
            "content": "請根據這張產品截圖,整理主要 UI 區塊與可實作的元件拆分。"
        }
    ]
)

print(message.content[0].text)

這類相容性很適合漸進式評估:先把部分低風險任務切到新模型,保留原有 SDK、日誌、限流和 fallback 機制,再逐步擴大到更複雜的 Agent 任務。

開權重部署:什麼時候值得自建

step-3.7-flash 的權重與模型卡以 Apache-2.0 釋出,並支援 vLLM、SGLang、Transformers、llama.cpp、NVIDIA NIM 等推理路線。這對需要資料本地化、私有化部署、推理成本可控,或希望深度客製模型服務的團隊很有吸引力。

不過自建不一定更便宜。你需要把 GPU 資源、工程維護、併發調度、快取、監控、版本升級、故障備援都算進去。比較現實的判斷方式是:

  • 流量穩定且量大,單次任務上下文長,自建可能有成本優勢。
  • 資料不能出內網,私有化部署可能是必要條件。
  • 任務峰谷差很大,或團隊缺少推理服務維運經驗,先用官方 API 更容易起步。
  • 需要同時混用多個模型時,先做統一路由層,再決定哪些模型自建、哪些走 API。

評估時要注意的指標

官方宣稱最高生成速度可達 400 tokens/s,這是很亮眼的數字,但生產環境真正關心的通常不只最高值。建議至少觀察以下幾類指標:

  • 首 token 延遲:互動式產品與 Agent 工具調用很敏感。
  • 穩定吞吐:高併發下是否仍能維持可預期速度。
  • 長上下文品質:輸入接近 256K 時,是否還能抓住關鍵約束。
  • 工具調用可靠性:是否能穩定輸出 JSON、函式參數、表格欄位。
  • 程式碼可用率:生成的 patch 是否能通過測試,而不是只看起來合理。
  • 多模態錯誤率:OCR、表格、截圖還原、影片理解是否可被量化驗收。

在外部復現結果更完整以前,對客戶或內部決策層描述時,最好把「官方公布性能」與「本團隊實測結果」分開列。這樣既不低估新模型的潛力,也不會把宣傳指標當成已驗證的生產承諾。

適合優先試點的任務

若要快速判斷 step-3.7-flash 是否值得導入,可以從這些任務開始:

  1. 高頻 Agent:客服預處理、工單分類、工具路由、資料查詢前置判斷。
  2. 程式碼生成與修復:小型 bugfix、測試補全、重構建議、錯誤日誌分析。
  3. 長文件處理:合約、規格書、研究報告、多文件問答。
  4. 截圖轉程式碼:把產品截圖轉為前端結構、樣式草稿或元件清單。
  5. 票據轉表格:將收據、發票、訂單截圖轉成結構化資料。
  6. 圖片與影片理解:內容審核、摘要、標註、流程回顧。

每一類都應設置「可接受錯誤邊界」。例如票據轉表格需要欄位級準確率,程式碼修復需要測試通過率,Agent 路由需要錯誤分派率,而不是只用主觀感受判斷。

小結

step-3.7-flash 的吸引力在於組合:長上下文、多模態、MoE、推理強度控制、OpenAI/Anthropic 相容接口,以及 Apache-2.0 的開權重路線。它看起來特別適合那些既需要速度,又需要推理和多模態能力的工程化場景。

但導入時仍應保持工程上的謹慎:官方指標可以作為選型線索,真正決策要回到自己的任務集、成本模型、延遲要求和錯誤容忍度。接入層面,可以直接使用官方中國區或國際區 API,也可以透過統一 LLM API gateway,把它以 OpenAI Chat Completions 或 Claude Messages 相容方式接入現有系統,和其他模型一起做路由、觀測與 fallback 管理。

參考資料