华为云Flexus+DeepSeek征文|使用云服务器单机部署Dify-LLM平台踩过的坑和经验总结
1. 文本亮点及概述
■ 本文亮点:
● 总结了使用一键部署Dify平台遇到的“坑”进行了总结,能让你少花费一些时间处理遇到的问题;
● 最后将部署完成的Dify平台和华为云ModelArts Studio大模型进行了对接;
● 本文最后阐述了一键卸载资源后如何确保不再继续产生费用;
■ 概述:
Dify官方在国内未提供SaaS服务,该解决方案基于Flexus云服务器X实例帮助您快速私有化部署开箱即用的Dify LLM应用开发平台,使开发者可以快速搭建生产级的生成式AI应用。
2. 一键部署Dify应用开发平台
在使用快速部署方案时,其实该方案会一键式部署如下资源:
■ 创建1台华为云Flexus云服务器X实例,用于搭建Dify-LLM应用开发平台。
■ 创建1个弹性公网IP EIP并关联华为云Flexus云服务器X实例,提供访问公网和被公网访问能力。
■ 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。
第一步:选择需要部署的区域(如华北-北京四),单击一键部署(云服务器单机部署)
第二步:在创建资源栈中,一共有四个步骤,首先在选择模板界面中,单击下一步:
第三步:在配置参数界面中,密码为必填项,其他参数可使用默认值,单击“下一步”。
如果这台Dify服务器需要对接数字人,推荐安装Dify 0.15.2版本,请在dify_version选项填入0.15.2
第四步:在资源设置界面中,在权限委托下拉框中选择“rf_admin_trust”委托(可不选),打开回滚设置开关,单击“下一步”。
在配置确认界面中,单击创建执行计划。
在弹出的创建执行计划框中,自定义填写执行计划名称,单击“确定”。
待事件中出现“Apply required resource success”,表示该解决方案资源已发放完成。
刷新页面,在输出中查看Dify-LLM应用开发平台访问说明。
最后可以看到目前自动生成的资源如下:
3. Dify应用开发平台初始化登录
修改安全组(可选)
该解决方案使用80端口用来访问Dify,默认对该方案创建的VPC子网网段放开,可以修改安全组,配置IP地址白名单,来限制服务的访问。
验证一下可以正常登录云主机:
第一步: 登录开发平台:输入自动生成的访问地址,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。
重点来了:云主机上面各种服务都运行正常,部署过程中日志也都输出正常,但是访问Dify平台后就是会出现以下错误(我多次部署都出现了,不是个例)
这种情况下把云主机重启下就可以或者重启所有的Docker容器也可以:
cd /dify/docker
docker-compose down
docker-compose up -d
再次登录下Dify平台验证下,如果正常了输入邮箱、用户名、密码:
登录之后就是上面这个界面,我们后面的博客将详细介绍如何通过Dify平台开发智能资产管理小助手
4. Dify应用开发平台对接华为云ModelArts Studio大模型
第一步:登录到Dify平台:
第二步:进入模型供应商页签,选择华为云MaaS平台
第二步:设置连接大模型的API-KEY
API Key
请填入:API Key生成的KEY,首先得开通华为云ModelArts Studio大模型服务:
添加一个LLM大模型,因为我在ModelArts Studio大模型服务中开通的DeepSeek-V3-32K
,所以此处先择DeepSeek-V3
。具体自己开通的是哪个版本可以登录ModelArts Studio控制台查看
5. 一键卸载Dify应用开发平台
登录到资源编排服务服务页面:https://console.huaweicloud.com/rf/?region=cn-north-4#/console/stack/stacklist
,找到需要卸载的资源栈,单击资源栈名称右侧“删除”按钮
在弹出的删除资源栈确定框中,删除方式选择删除资源,输入Delete,单击“确定”,即可卸载解决方案。
卸载完成之后,再去控制台看看是否还有没卸载干净的资源,防止还会产生费用。
显示上述这样就是卸载干净了。如果使用一键卸载失败,也可以在资源控制台将资源逐个手动卸载。