AI-Agent

5.1 流式输出的优势

为什么需要流式输出

1. 更好的用户体验

传统方式：等待完整响应

1
2
3
用户：写一首诗
[等待 5 秒...]
AI：完整的诗歌内容

流式方式：实时显示

1
2
3
4
5
用户：写一首诗
AI：春风拂柳绿如烟，
    碧水青山入画帘。
    鸟语花香迎客至，
    人间仙境在目前。

2. 感知速度更快

  • 完整响应：等待 5 秒 → 显示内容
  • 流式响应：0.1 秒后开始显示 → 逐步更新

3. 交互更自然

  • 可以提前看到内容方向
  • 发现问题时可以中断
  • 类似与真人对话的感觉

SSE 协议

Server-Sent Events 是流式输出的标准协议：

1
2
3
4
5
data: {"content": "你", "done": false}

data: {"content": "好", "done": false}

data: {"content": "！", "done": true}

导航

上一篇： 4.4 内置工具实现

下一篇： 5.2 SSE 协议实现