Gradio从入门到精通（10）---基于星火大模型的聊天机器人

前言

前面的章节介绍了Gradio的接口类，组件，让我们对Gradio有了整体的认识，接下来，我们使用Gradio一步一步搭建一个基于大模型的聊天机器人，整个过程循序渐进，从最简单的问答，到多模态，再到引入大模型，langchain等，让我们开始吧；

一、傻瓜机器人

在Gradio中构建聊天机器人只需要调用gr.ChatInterface()接口即可完成界面搭建，接下来我们写一个很傻瓜的机器人示例代码如下

import random
import gradio as gr

def alternatingly_agree(message, history):
    if len(history) % 2 == 0:
        return f"Yes, I do think that '{message}'"
    else:
        return "I don't think so"

gr.ChatInterface(alternatingly_agree).launch()

二、流媒体聊天机器人

我们在使用聊天机器人时，机器人响应往往是流式传输，所以这里我们模拟一个流式响应的机器人回复；当响应流式传输时，“提交”按钮会变成“停止”按钮，可用于停止生成器功能。您可以使用“stop_btn”参数自定义“停止”按钮的外观和行为。

import time
import gradio as gr

def slow_echo(message, history):
    for i in range(len(message)):
        time.sleep(0.3)
        yield "You typed: " + message[: i+1]

gr.ChatInterface(slow_echo).launch()

三、自定义聊天界面

gr.ChatInterface包含许多参数，您可以使用这些参数来自定义聊天机器人的外观及功能,使其符合你的需求

代码如下（示例）：

import gradio as gr

def yes_man(message, history):
    if message.endswith("?"):
        return "Yes"
    else:
        return "Ask me anything!"

gr.ChatInterface(
    yes_man,
    chatbot=gr.Chatbot(height=300),
    textbox=gr.Textbox(placeholder="Ask me a yes or no question", container=False, scale=7),
    title="Yes Man",
    description="Ask Yes Man any question",
    theme="soft",
    examples=["Hello", "Am I cool?", "Are tomatoes vegetables?"],
    cache_examples=True,
    retry_btn=None,
    undo_btn="Delete Previous",
    clear_btn="Clear",
).launch()

四、使用火星大模型的聊天机器人

搜索了一下火星大模型送一些免费的token，所以这里调用火星大模型做一个实例，几行代码就可以打造一个基于大模型的聊天机器人。
在逛网注册后，进入服务管理

创建新应用，名字自定义

创建完成后，选择对应模型可以看到对应的APIKey和APISecret
有了这些信息，我们通过OpenAI SDK 几行代码就可以做一个聊天机器人，将下列代码中的key和secret换成你的

# 导入SDK，发起请求

from openai import OpenAI  # 从openai模块导入OpenAI类，用于实例化客户端
import gradio as gr  # 导入gradio库，用于创建交互式Web界面

# 控制台获取key和secret拼接，假使APIKey是key123456，APISecret是secret123456
spark_api_key="key123456:secret123456"   #这里一定要换成你的哦  ！！！！！！！！！！！！！！！
spark_base_url = 'https://spark-api-open.xf-yun.com/v1' # 指向讯飞星火的请求地址
spark_model='generalv3.5'  # 指定请求的版本
client = OpenAI(api_key=spark_api_key,base_url=spark_base_url)  # 使用你的API密钥实例化OpenAI客户端
 
 
# 定义predict函数，它接受用户的消息和聊天历史作为输入
def predict(message, history):
    history_openai_format = []  # 创建一个空列表用于存储处理过的历史记录
    for human, assistant in history:  # 遍历历史对话
        # 将每条历史消息按照OpenAI所需的格式添加到列表中
        history_openai_format.append({"role": "user", "content": human })
        history_openai_format.append({"role": "assistant", "content":assistant})
    # 将最新的用户消息也以相同的格式添加到列表
    history_openai_format.append({"role": "user", "content": message})
  
    # 使用客户端请求GPT-3.5-turbo模型的回复，传入处理过的历史消息和其他参数
    response = client.chat.completions.create(model=spark_model,
    messages= history_openai_format,
    temperature=1.0,
    stream=True)
 
    #print(response.choices[0].message)  # 打印OpenAI的响应
    partial_message = ""  # 初始化用于收集模型响应的字符串
    for chunk in response:  # 遍历响应中的每个部分
        if chunk.choices[0].delta.content is not None:  # 如果响应部分有内容
              partial_message += chunk.choices[0].delta.content  # 将其添加到累积的响应字符串completion.choices[0].message
              yield partial_message  # 使用yield返回累积的响应字符串，实现流式响应
 
 
gr.ChatInterface(predict).launch()  # 使用Gradio的ChatInterface调用predict函数，并启动Web界面

好了，看看效果吧

总结

本章展示了一步一步使用gradio和火星大模型打造聊天机器人的过程，可以看到打造基于gradio的应用速度非常快，几行代码就可以完成一个应用。