DeepSeek vs Anthropic：技术路线的正面冲突

<think>我们已知用户希望将LangGraph和LangChain中的模型替换为本地部署的DeepSeek-R1模型（通过Ollama部署）。根据引用[4]中的信息，本地部署DeepSeek-R1模型可以通过Ollama完成。同时，引用[1]提到需要安装`langchain`和`ollama`等库。 因此，我们需要做以下几步： 1. 确保已经通过Ollama部署了DeepSeek-R1模型（1.5B版本）。 2. 安装必要的Python包。 3. 在LangChain中调用本地模型，然后将其集成到LangGraph中。 具体步骤： ### 步骤1：通过Ollama部署DeepSeek-R1模型 在终端（Windows下使用PowerShell或CMD）运行以下命令下载并运行模型： ```bash ollama run deepseek-r1:1.5b ``` 如果已经下载过，则可以直接使用。 ### 步骤2：安装必要的Python包 需要安装以下包： - `langchain`: 用于构建基于大语言模型的应用程序。 - `langchain-community`: 包含社区贡献的LangChain组件。 - `langgraph`: 用于构建具有状态的多步骤工作流（基于LangChain）。 - `ollama`: 用于与本地Ollama服务交互。 安装命令： ```bash pip install langgraph langchain langchain-community ollama ``` ### 步骤3：在LangChain中调用本地DeepSeek-R1模型 使用`langchain_community.llms`中的`Ollama`类来调用本地模型。 示例代码（LangChain基础调用）： ```python from langchain_community.llms import Ollama # 创建Ollama实例，指定模型名称 llm = Ollama(model="deepseek-r1:1.5b") # 调用模型 response = llm.invoke("你好，请介绍一下你自己。") print(response) ``` ### 步骤4：在LangGraph中使用本地DeepSeek-R1模型 LangGraph用于构建有状态的多步骤工作流。我们可以将上述Ollama封装的LLM集成到LangGraph的节点中。 以下是一个简单的LangGraph示例，包含两个节点（一个节点调用模型，另一个节点处理结果）和一个边： ```python from langgraph.graph import END, StateGraph from langchain_community.llms import Ollama # 定义状态（State） # 这里我们定义一个简单的状态，包含一个字符串消息 class MyState: message: str # 初始化模型 llm = Ollama(model="deepseek-r1:1.5b") # 定义节点 def model_node(state: MyState): # 调用模型 response = llm.invoke(state.message) # 返回新的状态（更新消息） return {"message": response} def output_node(state: MyState): # 这里可以做一些后处理，比如打印或格式化 print("最终输出：", state.message) return state # 创建图 graph = StateGraph(MyState) # 添加节点 graph.add_node("model", model_node) graph.add_node("output", output_node) # 设置入口点 graph.set_entry_point("model") # 添加边 graph.add_edge("model", "output") graph.add_edge("output", END) # 编译图 app = graph.compile() # 使用图 inputs = {"message": "你好，请介绍一下你自己。"} app.invoke(inputs) ``` 注意：上述示例中，我们定义了一个简单的状态`MyState`，它只有一个字段`message`。然后我们定义了两个节点：`model_node`用于调用模型，`output_node`用于输出结果。图的结构是：从`model`节点开始，然后到`output`节点，最后结束。 ### 补充说明 1. 如果模型响应较慢，可以调整Ollama的调用参数，例如设置`temperature`等。 2. 在LangGraph中，可以根据需要设计更复杂的节点和边，例如条件分支、循环等。 通过以上步骤，就可以在LangGraph中使用本地部署的DeepSeek-R1模型了。 §§相关问题§§ 1. 如何优化Ollama调用本地模型的速度？ 2. LangGraph中如何实现条件分支和循环？ 3. 如何将本地部署的DeepSeek-R1模型与LangChain的其他组件（如记忆、检索等）结合使用？</think>### LangGraph/LangChain 集成本地 DeepSeek-R1 模型指南 根据引用内容[1][2][4]，实现本地部署的 DeepSeek-R1 模型与 LangGraph/LangChain 集成，需按以下步骤操作： --- #### 一、安装依赖包 ```bash # 核心依赖 pip install langgraph langchain langchain-community # Ollama 集成 pip install ollama # 可选：结构化输出支持 pip install langchain-experimental ``` --- #### 二、模型部署与调用 ##### 1. 通过 Ollama 部署模型（引用[4]） ```bash # 下载模型（1.5B 蒸馏版） ollama run deepseek-r1:1.5b ``` ##### 2. LangChain 基础调用（引用[1]） ```python from langchain_community.llms import Ollama from langchain_core.prompts import ChatPromptTemplate # 初始化本地模型 llm = Ollama(model="deepseek-r1:1.5b") # 创建提示模板 prompt = ChatPromptTemplate.from_template("请回答：{query}") # 构建链式调用 chain = prompt | llm # 执行查询 response = chain.invoke({"query": "解释量子纠缠"}) print(response) ``` ##### 3. LangGraph 集成（引用[3]） ```python from langgraph.graph import StateGraph, END from langchain_community.chat_models import ChatOllama # 定义状态结构 class AgentState: question: str reasoning: str final_answer: str # 初始化本地模型 model = ChatOllama(model="deepseek-r1:1.5b", temperature=0) # 定义推理节点 def reasoning_node(state): response = model.invoke(f"请逐步推理：{state.question}") return {"reasoning": response.content} # 定义回答节点 def answer_node(state): response = model.invoke(f"基于推理给出最终答案：{state.reasoning}") return {"final_answer": response.content} # 构建图工作流 workflow = StateGraph(AgentState) workflow.add_node("reason", reasoning_node) workflow.add_node("answer", answer_node) workflow.set_entry_point("reason") workflow.add_edge("reason", "answer") workflow.add_edge("answer", END) app = workflow.compile() # 执行工作流 result = app.invoke({"question": "计算玻尔兹曼常数在热力学中的作用"}) print(result["final_answer"]) ``` --- #### 三、结构化输出实现（引用[3]） ```python from langchain_experimental.llms import JsonOutputParser from langchain_core.pydantic_v1 import BaseModel, Field # 定义输出结构 class PhysicsConcept(BaseModel): concept_name: str = Field(description="物理概念名称") mathematical_expression: str = Field(description="数学表达式") application: str = Field(description="主要应用领域") # 创建解析器 parser = JsonOutputParser(pydantic_object=PhysicsConcept) # 构建结构化调用链 structured_chain = ( ChatPromptTemplate.from_template("解释{concept}，按JSON格式输出") | ChatOllama(model="deepseek-r1:1.5b") | parser ) # 执行查询 result = structured_chain.invoke({"concept": "薛定谔方程"}) print(result) # 输出示例: {'concept_name': '薛定谔方程', ...} ``` --- ### 关键配置说明 | 组件 | 配置项 | 推荐值 | 作用 | |------|--------|--------|------| | Ollama | `model` | `deepseek-r1:1.5b` | 指定1.5B蒸馏版模型 | | LangChain | `temperature` | `0.2-0.7` | 控制输出随机性 | | LangGraph | `checkpoint` | `InMemorySaver()` | 状态持久化存储 | | 结构化输出 | `JsonOutputParser` | 自定义Pydantic模型 | 强制JSON格式输出 | > 注：首次运行时模型下载需较长时间（约5-10分钟），后续调用响应在1-5秒内[^2][^4] --- ### 性能优化建议 1. **批处理请求**：使用`batch()`方法并行处理多个查询 ```python responses = llm.batch(["问题1", "问题2"]) ``` 2. **上下文管理**：集成`ConversationBufferMemory`维护对话历史 3. **硬件加速**：在Ollama启动时添加GPU标志（需NVIDIA驱动） ```bash ollama serve --gpu ```