使用服务器发送事件 (SSE) 逐个令牌地流响应。
启用流媒体
```json
{
"model": "claude-sonnet-4-6",
"messages": [{"role": "用户", "content": "写一首诗"}],
“流”:真实
}
---
## 响应格式
每个块都是一个“data:”行:
数据:{“id”:“chatcmpl-abc”,“object”:“chat.completion.chunk”,“选择”:[{“delta”:{“content”:“Hello”},“index”:0}]}
数据:{“id”:“chatcmpl-abc”,“object”:“chat.completion.chunk”,“选择”:[{“delta”:{“content”:“world”},“index”:0}]}
数据:[完成]
---
## Python 示例
````蟒蛇
从 openai 导入 OpenAI
客户端 = OpenAI(
api_key="YOUR_API_KEY",
base_url =“https://api.boundlessapi.com/v1”,
)
流 = client.chat.completions.create(
模型=“deepseek-聊天”,
messages=[{"角色": "用户", "内容": "数到5"}],
流=真,
)
对于流中的块:
if chunk.choices[0].delta.content:
打印(chunk.choices[0].delta.content,end =“”,flush = True)
TypeScript 示例
``打字稿
const 流 = 等待 client.chat.completions.create({
模型:“deepseek-v4-flash”,
messages: [{ 角色: "用户", 内容: "数到 5" }],
流:真实,
});
for wait (const 流块) {
const content = chunk.choices[0]?.delta?.content;
if (内容) process.stdout.write(内容);
}
---
## 计费
流式传输请求在流式传输完成时按**总令牌**计费,与非流式传输相同。
如果流在客户端中断,您需要为取消之前生成的令牌付费。
---
## 流期间的错误
错误可能显示为:
数据:{“错误”:{“消息”:“...”,“代码”:“...”}}
````
在流解析器中处理。请参阅错误代码。