Dify部署

Dify

目前已支持能力：

01. 可视化编排 Prompt
通过界面化编写 prompt 并调试，只需几分钟即可发布一个 AI 应用。

02. 接入长上下文（数据集）
全自动完成文本预处理，使用您的数据作为上下文，无需理解晦涩的概念和技术处理。

03. 基于 API 开发
后端即服务。您可以直接访问网页应用，也可以接入 API 集成到您的应用中，无需关注复杂的后端架构和部署过程。

04. 数据标注与改进
可视化查阅 AI 日志并对数据进行改进标注，观测 AI 的推理过程，不断提高其性能。

环境配置

Docker 19.03、 Docker Compose 1.25.1 以上版本

安装docker

#安装依赖包
apt install apt-transport-https ca-certificates curl software-properties-common

#添加Docker的官方GPG密钥
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg

#添加 Docker 的软件源
echo "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

#更新 apt 包索引
apt update

#安装 Docker
apt install docker-ce docker-ce-cli containerd.io

#查看docker版本
docker version
--------------------------------------------------------------------
Version:           24.0.5
 API version:       1.43
 Go version:        go1.20.6
 Git commit:        ced0996
 Built:             Fri Jul 21 20:35:23 2023
 OS/Arch:           linux/amd64
 Context:           default

Server: Docker Engine - Community
 Engine:
  Version:          24.0.5
  API version:      1.43 (minimum version 1.12)
  Go version:       go1.20.6
  Git commit:       a61e2b4
  Built:            Fri Jul 21 20:35:23 2023
  OS/Arch:          linux/amd64
  Experimental:     false
 containerd:
  Version:          1.6.22
  GitCommit:        8165feabfdfe38c65b599c4993d227328c231fca
 runc:
  Version:          1.1.8
  GitCommit:        v1.1.8-0-g82f18fe
 docker-init:
  Version:          0.19.0
  GitCommit:        de40ad0
----------------------------------------------------------------------

安装 Docker Compose

#下载 Docker Compose 二进制文件
curl -L "https://github.com/docker/compose/releases/download/1.29.2/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose

#赋予执行权限
chmod +x /usr/local/bin/docker-compose

#验证 Docker Compose 安装是否成功
docker-compose --version

Dify部署

#git 源代码到本地
git clone https://github.com/langgenius/dify.git

#启动Dify
cd dify/docker
docker compose up -d
-----------------------------------
[+] Running 8/8
 ✔ Network docker_default       Created                                                                                                                                                                                             0.1s 
 ✔ Container docker-db-1        Started                                                                                                                                                                                            26.8s 
 ✔ Container docker-web-1       Started                                                                                                                                                                                            26.8s 
 ✔ Container docker-weaviate-1  Started                                                                                                                                                                                            26.8s 
 ✔ Container docker-redis-1     Started                                                                                                                                                                                            26.7s 
 ✔ Container docker-api-1       Started                                                                                                                                                                                             1.3s 
 ✔ Container docker-worker-1    Started                                                                                                                                                                                             1.4s 
 ✔ Container docker-nginx-1     Started   
-----------------------------------

访问Dify Web页面【建议使用公网，如果不在同一个内网无法登录】

http://主机IP

首次登录配置邮箱以及账户密码，配置模型API连接，由于国内连接OpenAI限制，所以我使用自己部署的ChatGlm模型

连接上面部署ChatGLM的API，如下

添加成员

输入邮箱后选择你需要给的权限，确认以后会弹出一条链接例如123456，将该链接前缀加上dify的登录地址即可注册
http://本机ip/123456

创建应用

选择应用类型，创建应用

开始对话

创建数据集【自定义数据集，训练你的专属模型】

公开让同事访问更便捷

添加邮箱

进入成员后点击添加，输入邮箱选择用户身份

发送邀请后复制邀请链接如下
/activate?email=yxxxxxxxxxx@qq.com&token=231d7039-c8ae-46ff-9dd9-c0fbf05c88f5

在邀请链接前加上Dify服务端地址，如下【以下172.16.23.50是我dify服务端的地址】
http://172.16.23.50/activate?email=yxxxxxxxxxx@qq.com&token=231d7039-c8ae-46ff-9dd9-c0fbf05c88f5
将此链接粘贴到浏览器即可注册，自定义账户密码注册即可
,注册结束后通过邮箱以及密码登录

Dify还有许多功能此处就不一一列举了，具体功能可以参考使用官方提供的dify云服务，会赠送一些token试用，可以登录上去看看

https://cloud.dify.ai/signin

最后有需要云主机资源的同学以及大佬们，目前有大量A100-40G、V100-32G、T4-16G的大厂资源，仅支持月租/年租，如有需要联系我哈！

赠一张搬砖图片