DeepSeek + Ollama + RAGFagflow：云端部署个人/团队知识库！

最新推荐文章于 2025-06-16 11:09:29 发布

慧星云

最新推荐文章于 2025-06-16 11:09:29 发布

阅读量1.8k

点赞数 20

CC 4.0 BY-SA版权

文章标签：人工智能 AIGC 云计算 ai

本文链接：https://blog.csdn.net/holdcloud/article/details/146076899

DeepSeek

在人工智能领域，知识库的构建与部署对于企业级应用至关重要。随着 DeepSeek 的爆火，慧星云作为领先的 AI 算力租赁云平台，现支持云端使用 DeepSeek，并结合 Ollama 和 RAGFlow 两个软件，为个人和团队提供高效、便捷的知识库部署方案。

环境准备

1. RTX 4090 GPU算力服务器开通与配置

使用浏览器管理GPU服务器，并使用Terminal登录机器

注意提示信息：

| 开启学术加速（默认开启） | source network-turbo && proxy_set

| 关闭学术加速 | source network-turbo && proxy_unset

| 开启 docker 容器学术加速 | source docker-network-turbo && docker_proxy_set

| 关闭 docker 容器学术加速 | source docker-network-turbo && docker_proxy_unset

这里可以先开启docker容器学术加速，执行下source docker-network-turbo && docker_proxy_set：

2. 系统环境配置

2.2.1 确保 vm.max_map_count 不小于 262144：

查看当前 vm.max_map_count 的大小：

sysctl vm.max_map_count

如果 vm.max_map_count 的值小于 262144，可以进行重置，这里我们设为 262144，

sudo sysctl -w vm.max_map_count=262144

如果希望做永久改动，可以在 /etc/sysctl.conf 文件添加vm.max_map_count 配置：

vim /etc/sysctl.conf

在最后添加一行 vm.max_map_count=262144 并保存退出；

验证下修改是否生效

下载和部署RAGFlow

2.1 下载RAGFlow

切换到数据盘

cd /root/data/

Git ragflow最新版(v0.17.0为例)到数据盘

git clone https://github.com/infiniflow/ragflow.git

2.2 配置RAGFlow环境

进入到ragflow 的docker目录

cd ragflow/docker/

2.2.1 编辑.env文件

文档引擎从 Elasticsearch 切换成为 Infinity：

如果不需要切换，则跳过该步骤，不影响后续使用

vim .env

# The type of doc engine to use.# Available options:# - `elasticsearch` (default) # - `infinity` (https://github.com/infiniflow/infinity)#DOC_ENGINE=${DOC_ENGINE:-elasticsearch}DOC_ENGINE=${DOC_ENGINE:-infinity}

增加内存限制额度(内存充足的情况下，可跳过)

# The maximum amount of the memory, in bytes, that a specific Docker container can use while running.# Update it according to the available memory in the host machine.#MEM_LIMIT=8073741824MEM_LIMIT=32294967296

安装自带嵌入模型的的RAGFlow（ragflow:v0.17.0默认安装嵌入模型，ragflow:v0.17.0-slim不安装嵌入模型，如果不需要安装嵌入模型，则跳过该步骤）

# The RAGFlow Docker image to download.# Defaults to the v0.17.0-slim edition, which is the RAGFlow Docker image without embedding models.#RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.0-slim

取消注释该行（有嵌入模型，如果不需要自带的嵌入模型，则跳过该步骤，后续可以通过Ollama自主下载需要的嵌入模型）,保存并退出；

# To download the RAGFlow Docker image with embedding models, uncomment the following line instead:RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.0