[DeepSeek]一、DeepSeek+Dify创建工作流

Dify社区版:

Docker Compose 部署 | Dify

Dify云服务版:

云服务 | Dify

创建工作流:文档总结规划

取好一个名字:test1 之后,添加“文档提取器”,大模型没有办法直接处理文档,因此添加一个“文档提取器”的节点。

添加“LLM”大模型节点:

最后添加一个结束节点,一条工作流就完成了。

开始节点 -> 选择"单文件"作为输入

文档提取器 --> 输入变量(input),为开始节点设置的变量。 

 LLM大模型节点,输入一些提示词、用户信息、输出变量:

 结束节点:

CO832OSOGJWR5L9ZDPCX

f0jq8EeuJQHkbWrHPxTp805PvbKw8x99QVlRHo1j

 

### 本地部署 DEEPSEEK 使用 Ollama 和 DeepSeek 并整合 Dify #### 配置与集成概述 为了实现 DEEPSEEK 模型的本地化部署并将其与 Ollama 和 Dify 整合,需要完成以下几个核心部分的工作:安装和配置 Ollama、下载和运行 DEEPSEEK 模型以及将这些组件与 Dify 进行无缝连接。 Ollama 是种轻量级工具,用于管理和运行大型语言模型 (LLM),支持多种模型架构。通过简单的命令即可启动指定版本的 DEEPSEEK 模型[^2]。而 Dify 则是个应用框架,可以作为前端或中间件来调用 LLM 提供的服务。 --- #### 安装和配置 Ollama 要开始使用 Ollama 来管理 DEEPSEEK 模型,请按照以下方法操作: 1. **安装 Ollama** 下载最新版 Ollama 工具包,并根据操作系统执行相应的安装脚本。官方文档提供了详细的说明,确保环境满足最低依赖条件。 2. **拉取 DEEPSEEK 模型** 执行以下命令以获取特定版本的 DEEPSEEK 模型: ```bash ollama pull deepseek-r1:1.5b ``` 此命令会自动从远程仓库中提取 `deepseek-r1` 版本号为 `1.5b` 的预训练权重文件到本地存储路径下。 3. **验证模型加载状态** 启动服务前可以通过列表查看已成功导入的所有可用模型实例及其元数据信息: ```bash ollama list ``` --- #### 启动 DEEPSEEK 模型 旦完成了上述准备工作,则可通过如下指令激活目标模型实例以便后续请求访问它所提供的功能接口: ```bash ollama run deepseek-r1:1.5b --port=11434 ``` 此命令将在默认端口上暴露 RESTful API 接口给外部程序调用,默认监听地址通常设置为 localhost 或者自定义 IP 地址。 --- #### 将 Ollama 与 Dify 集成 Dify 可作为个灵活的应用开发平台,允许开发者轻松接入第三方 AI 能力。以下是具体步骤描述: 1. **创建项目结构** 初始化个新的 Python 环境或者 Node.js 应用来承载整个业务逻辑流程设计工作流。 2. **编写适配器代码** 构建 HTTP 请求发送模块向刚才提到过的 Ollama 实例发起交互动作;例如利用 requests 库(Python)或其他同等效用库处理 POST 方法提交 JSON 数据体至 `/api/generate` 终结点位置处[^1]: ```python import requests url = "http://localhost:11434/api/generate" payload = { "prompt": "Tell me about the history of artificial intelligence.", "max_tokens": 100, "temperature": 0.7 } headers = {"Content-Type": "application/json"} response = requests.post(url, json=payload, headers=headers) result = response.json() print(result["response"]) ``` 3. **扩展应用程序界面** 结合实际场景需求进步完善图形用户界面上展示效果等内容呈现形式等方面考虑因素进去之后再做最终调整优化方案出来就可以了. --- ### 总结 综上所述,在本地环境中部署 DEEPSEEK 模型并通过 Ollama 加载后,能够借助简单几行脚本快速搭建起套完整的对话系统原型演示案例。与此同时,引入像 Dify 这样的高级别封装层还可以极大简化日常维护成本的同时提升整体用户体验满意度水平^. ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值