Spring AI 集成 DeepSeek

DeepSeek Chat

DeepSeek AI 提供了开源的 DeepSeek V3 模型，以其先进的推理和问题解决能力而闻名。

Spring AI 与 DeepSeek AI 集成，通过重用现有的 OpenAI 客户端来实现。要开始使用，您需要获得 DeepSeek API 密钥、配置基本 URL，并选择支持的模型。

Spring AI 和 DeepSeek 集成

提示：当前版本的 DeepSeek-chat 模型的功能调用能力不稳定，可能导致循环调用或空响应。

可以查看 DeepSeekWithOpenAiChatModelIT.java 测试，了解如何将 DeepSeek 与 Spring AI 一起使用的示例。

前提条件

• 创建 API 密钥：访问此链接以创建 API 密钥。然后在 Spring AI 项目中使用 spring.ai.openai.api-key 属性进行配置。
• 设置 DeepSeek 基本 URL：将 spring.ai.openai.base-url 属性设置为 api.deepseek.com。
• 选择 DeepSeek 模型：使用 spring.ai.openai.chat.options.model=<模型名称> 属性指定模型。可以参考“支持的模型”部分来选择可用的选项。

环境变量配置示例：

export SPRING_AI_OPENAI_API_KEY=<在此处插入 DEEPSEEK API 密钥>
export SPRING_AI_OPENAI_BASE_URL=https://api.deepseek.com
export SPRING_AI_OPENAI_CHAT_MODEL=deepseek-chat

添加仓库和 BOM

Spring AI 工件已发布到 Maven Central 和 Spring Snapshot 仓库。请参考“仓库”部分，将这些仓库添加到您的构建系统中。

为了帮助进行依赖管理，Spring AI 提供了 BOM（物料清单），以确保在整个项目中使用一致的 Spring AI 版本。请参考“依赖管理”部分，将 Spring AI BOM 添加到构建系统中。

自动配置

Spring AI 为 OpenAI Chat 客户端提供了 Spring Boot 自动配置。要启用此功能，请在项目的 Maven pom.xml 或 Gradle build.gradle 构建文件中添加以下依赖：

Maven 配置：

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>

参考依赖管理部分，将 Spring AI BOM 添加到构建文件中。

聊天属性

重试属性：前缀 spring.ai.retry 用于配置 OpenAI 聊天模型的重试机制。

连接属性：前缀 spring.ai.openai 用于配置与 OpenAI 的连接。

配置属性：前缀 spring.ai.openai.chat 用于配置 OpenAI 聊天模型的实现。

提示：所有以 spring.ai.openai.chat.options 开头的属性可以通过为提示调用添加特定的运行时选项来覆盖。

运行时选项

OpenAiChatOptions.java 提供了模型配置，如要使用的模型、温度、频率惩罚等。

在启动时，可以使用 OpenAiChatModel(api, options) 构造函数或 spring.ai.openai.chat.options.* 属性配置默认选项。

在运行时，您可以通过向 Prompt 调用中添加新的请求特定选项来覆盖默认选项。例如，要为特定请求覆盖默认模型和温度：

ChatResponse response = chatModel.call(
    new Prompt(
        "Generate the names of 5 famous pirates.",
        OpenAiChatOptions.builder()
            .model("deepseek-chat")
            .temperature(0.4)
        .build()
    ));

提示：除了模型特定的 OpenAiChatOptions，您还可以使用便携的 ChatOptions 实例，它是通过 ChatOptions#builder() 创建的。

函数调用

当前版本的 deepseek-chat 模型的函数调用功能不稳定，可能导致循环调用或空响应。

多模态

注意：目前，DeepSeek API 不支持媒体内容。

示例控制器

创建一个新的 Spring Boot 项目并将 spring-ai-openai-spring-boot-starter 添加到您的 pom（或 gradle）依赖项中。

在 src/main/resources 目录下添加一个 application.properties 文件，以启用并配置 OpenAi 聊天模型：

spring.ai.openai.api-key=<DEEPSEEK_API_KEY>
spring.ai.openai.base-url=https://api.deepseek.com
spring.ai.openai.chat.options.model=deepseek-chat
spring.ai.openai.chat.options.temperature=0.7

# DeepSeek API 不支持嵌入，因此我们需要禁用它。
spring.ai.openai.embedding.enabled=false

请将 api-key 替换为您的 DeepSeek API 密钥。

这将创建一个 OpenAiChatModel 实现，您可以将其注入到您的类中。以下是一个简单的 @Controller 类示例，使用聊天模型生成文本。

@RestController
public class ChatController {

    private final OpenAiChatModel chatModel;

    @Autowired
    public ChatController(OpenAiChatModel chatModel) {
        this.chatModel = chatModel;
    }

    @GetMapping("/ai/generate")
    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", this.chatModel.call(message));
    }

    @GetMapping("/ai/generateStream")
    public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        Prompt prompt = new Prompt(new UserMessage(message));
        return this.chatModel.stream(prompt);
    }
}

参考资料

• 文档主页
• 错误代码
• 请求限制