Responses API 與 Chat Completions 比較

為 AI 應用程式選擇 Responses API 或 Chat Completions 之前,先比較兩者的請求格式、串流、工具與供應商相容性。

Responses API 與 Chat Completions 比較

Responses API 與 Chat Completions 都能把提示詞送給語言模型,但兩者組織輸入、輸出、工具與串流的方式不同。要在兩者之間做選擇,應該從用戶端與模型之間的契約出發——而不是假設較新的端點必然適用於每個供應商。

最簡短的判斷原則是:

  • 如果程式開發 Agent 或應用程式本來就預期 Responses 項目、工具事件與 Responses 串流生命週期,請使用 Responses API。
  • 如果是相容範圍廣泛的對話用戶端,或供應商系列是透過 Chat Completions 原樣轉送來提供 OpenAI 風格模型,請使用 Chat Completions。

請務必在模型與定價中確認所選模型支援的 API 格式。

協定比較

比較項目 Responses API Chat Completions
主要輸入結構 input 與具型別的輸入項目 messages 陣列
輸出模型 具型別的輸出項目與事件 助理訊息的 choices 與增量(delta)
串流 Responses 事件串流 Chat Completions 區塊(chunk)串流
工具活動 具型別的工具呼叫與工具輸出項目 附加在助理訊息上的工具呼叫
最適合的情境 Agent、程式開發工具與原生採用 Responses 的應用程式 對話用戶端,以及廣泛支援的 OpenAI 相容供應商
模型可移植性 僅限已驗證支援 Responses 的模型 僅限已驗證支援 Chat Completions 的模型

此表描述的是傳輸契約,並不代表 Modelflare 會在兩種格式之間轉換每一項供應商功能。

何時較適合使用 Responses API

如果用戶端本來就把一次模型執行視為一連串具型別的項目,而不是單一則助理訊息,請選擇 /v1/responses。這在程式開發 Agent 中很常見,因為它們需要區分可見文字、推理摘要、函式引數、自訂工具輸入與其他事件。

最簡單的請求如下:

curl -sS https://modelflare.dev/v1/responses \
  -H "Authorization: Bearer $MODELFLARE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.6-sol",
    "input": "列出 API 遷移前應完成的三項檢查。",
    "stream": true
  }'

Responses 串流應該進行端對端驗證。只認得 Chat Completions 區塊、卻不認得 Responses 事件的用戶端,即使連線成功,仍可能無法顯示有用的輸出。

何時 Chat Completions 是較穩妥的選擇

如果應用程式是圍繞 system、user、assistant 與 tool 訊息設計,或所選供應商系列的文件列有 OpenAI 相容的 Chat Completions 端點,請選擇 /v1/chat/completions。

curl -sS https://modelflare.dev/v1/chat/completions \
  -H "Authorization: Bearer $MODELFLARE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "YOUR_CHAT_MODEL",
    "messages": [
      {"role": "system", "content": "請簡潔回答。"},
      {"role": "user", "content": "API 健康檢查應該驗證哪些項目?"}
    ],
    "stream": true
  }'

對於非 OpenAI 的供應商系列,Modelflare 可以提供 Chat Completions 原樣轉送,讓供應商專屬的推理或搜尋控制等私有請求欄位原封不動送達服務商。這種行為的範圍刻意比「完整相容 Responses」更窄。

不要只憑模型名稱決定

必須分別完成三項檢查:

  1. API 金鑰可以存取該模型。存取權取決於金鑰與可用的模型群組。
  2. 模型支援該端點。出現在 /v1/models 中的模型,不代表兩種請求格式都能使用。
  3. 用戶端能解析該串流。Responses 事件與 Chat Completions 區塊是兩種不同的用戶端契約。

只要其中任何一項檢查未通過,單純切換端點路徑,可能會把原本清楚的相容性錯誤,變成空白或只顯示一部分的回應。

工具與結構化輸出的遷移

搬移既有整合之前:

  • 比較用戶端使用的工具定義結構描述(schema);
  • 確認工具呼叫 ID 與工具輸出的傳回方式;
  • 保留明確設定的選用值,不要丟掉 0 或 false;
  • 檢查供應商是否需要必須原樣轉送的私有欄位;
  • 測試可能不含可見文字增量、只有工具呼叫的回應;
  • 確認用戶端如何判斷回應完成並取得用量。

同一個提示詞產生相似的文字,並不足以作為協定測試。真正的測試應該涵蓋應用程式依賴的各項功能。

實務選擇流程

  1. 開啟模型與定價,選擇模型與群組。
  2. 確認支援的 API 格式。
  3. 若有對應的用戶端專屬指南,請依照 Modelflare 文件中的說明操作。
  4. 送出一次非串流請求。
  5. 送出一次串流請求。
  6. 實際測試工具或結構化輸出。
  7. 在使用日誌中檢查該請求的狀態、時間、Token 用量與費用。

Responses API 不是 Chat Completions 的萬用替代品,Chat Completions 也沒有過時。正確的格式,是用戶端、所選模型與服務商契約三方都支援的那一種。

選定格式後,請參考 AI API 串流指南實作對應的事件解析器、時間指標、取消機制與逾時政策。