Flask如何实现类似ChatGPT的实时流式响应？

使用flask模拟chatgpt的实时流式响应

许多开发者希望在Flask应用中实现类似ChatGPT的实时响应效果：内容生成过程中持续传输给客户端。然而，简单的Flask response 对象无法满足此需求，它会等待生成器函数完全执行后才发送结果。本文探讨如何利用Flask框架实现真正的流式传输。

问题根源在于原始代码直接使用response 对象包裹生成器函数，导致浏览器必须等待生成器完全执行才能显示内容，与预期实时响应效果相悖。

改进方案的核心在于stream_with_context 装饰器。 以下代码片段展示了改进后的方法：

from flask import stream_with_context, request  @app.route('/stream') def streamed_response():     def generate():         yield 'Hello '         yield request.args['name']         yield '!'     return app.response_class(stream_with_context(generate()))

stream_with_context(generate()) 将生成器函数进行包装。 stream_with_context 的作用至关重要，它确保生成器在每次 yield 后立即将数据返回客户端，而非等待整个生成器执行完毕。 此例中，程序先返回“Hello ”，然后根据请求参数 name 返回相应名称，最后返回“!”，实现了边生成边传输的效果。

与原始代码相比，改进后的代码利用 stream_with_context 避免了等待整个生成器函数执行完毕才返回数据的问题，实现了真正的流式传输，客户端可以实时接收数据，从而模拟ChatGPT的实时响应效果。 需要注意的是，request.args[‘name’] 展示了参数传递方式，实际应用中可根据需要替换为其他数据获取方式，例如从数据库或其他API获取数据。 通过这种方法，可以构建更动态和交互式的Web应用。