ChatGpt接口流式输出解决方案

原创

已于 2024-07-15 17:23:52 修改 · 2.2k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#chatgpt

于 2024-03-08 15:55:35 首次发布

本文介绍了如何在阿里云通义千问中使用HTTPEventStream进行事件流传输，包括请求配置、服务流程处理和客户端接收的示例，展示了如何实现实时对话并处理响应数据。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

阿里云通义千问ChatAPI事件流传输案例

核心方案：基于http text/event-stream 事件流

请求配置

  /**
   * 通义千问流式请求
   * @param messages
   * @param modelType
   */
  async TYQWSteamRequest(messages: chatBaseMessages[], modelType: string) {
    const payload = {
      model: modelType || 'qwen-max', // 模型名称 必填
      input: {
        messages: messages.map(({ role, content }) => ({ role, content })),
      },
      stream: true,
    };
    // 请求埋点
    this.logger.info(`TYQWSteamRequest: reqBody =>${JSON.stringify(payload)};`);
    const response = await this.ctx.curl(
      'https://dashscope.aliyuncs.com/api/v1/services/aigc/text-generation/generation',
      {
        method: 'POST',
        headers: {
          'Content-Type': 'application/json',
          Accept: 'text/event-stream',
          'X-DashScope-SSE': 'enable',
        },
        streaming: true, // 启用流式响应
        // 请求数据类型
        data: payload,