华为云Flexus+DeepSeek征文|使用云服务器单机部署Dify-LLM平台踩过的坑和经验总结

1. 文本亮点及概述

   ■ 本文亮点:
    ● 总结了使用一键部署Dify平台遇到的“坑”进行了总结,能让你少花费一些时间处理遇到的问题;
    ● 最后将部署完成的Dify平台和华为云ModelArts Studio大模型进行了对接;
    ● 本文最后阐述了一键卸载资源后如何确保不再继续产生费用;

   ■ 概述:
   Dify官方在国内未提供SaaS服务,该解决方案基于Flexus云服务器X实例帮助您快速私有化部署开箱即用的Dify LLM应用开发平台,使开发者可以快速搭建生产级的生成式AI应用。
在这里插入图片描述

2. 一键部署Dify应用开发平台

   在使用快速部署方案时,其实该方案会一键式部署如下资源:
   ■ 创建1台华为云Flexus云服务器X实例,用于搭建Dify-LLM应用开发平台。
   ■ 创建1个弹性公网IP EIP并关联华为云Flexus云服务器X实例,提供访问公网和被公网访问能力。
   ■ 创建一个安全组,通过配置安全组规则,为云服务器提供安全防护。

   快速搭建Dify-LLM应用开发平台链接地址

   第一步:选择需要部署的区域(如华北-北京四),单击一键部署(云服务器单机部署)
在这里插入图片描述
 
   第二步:在创建资源栈中,一共有四个步骤,首先在选择模板界面中,单击下一步
在这里插入图片描述
 
   第三步:在配置参数界面中,密码为必填项,其他参数可使用默认值,单击“下一步”。

如果这台Dify服务器需要对接数字人,推荐安装Dify 0.15.2版本,请在dify_version选项填入0.15.2

在这里插入图片描述
 
   第四步:在资源设置界面中,在权限委托下拉框中选择“rf_admin_trust”委托(可不选),打开回滚设置开关,单击“下一步”。
在这里插入图片描述
 
在这里插入图片描述
   在配置确认界面中,单击创建执行计划
在这里插入图片描述
 
   在弹出的创建执行计划框中,自定义填写执行计划名称,单击“确定”。
在这里插入图片描述
 
在这里插入图片描述
 
在这里插入图片描述
 
   待事件中出现“Apply required resource success”,表示该解决方案资源已发放完成。
在这里插入图片描述
 
   刷新页面,在输出中查看Dify-LLM应用开发平台访问说明。
在这里插入图片描述
 
在这里插入图片描述
 
   最后可以看到目前自动生成的资源如下:
在这里插入图片描述
 

3. Dify应用开发平台初始化登录

   修改安全组(可选)
   该解决方案使用80端口用来访问Dify,默认对该方案创建的VPC子网网段放开,可以修改安全组,配置IP地址白名单,来限制服务的访问。
在这里插入图片描述
 
在这里插入图片描述
 
验证一下可以正常登录云主机:
在这里插入图片描述

   第一步: 登录开发平台:输入自动生成的访问地址,即可浏览Dify的开发平台。首次登陆需注册管理员账号,依次填写邮箱、账号、密码。

重点来了:云主机上面各种服务都运行正常,部署过程中日志也都输出正常,但是访问Dify平台后就是会出现以下错误(我多次部署都出现了,不是个例)

在这里插入图片描述
 
   这种情况下把云主机重启下就可以或者重启所有的Docker容器也可以:
在这里插入图片描述

cd /dify/docker
docker-compose down
docker-compose up -d

   再次登录下Dify平台验证下,如果正常了输入邮箱、用户名、密码:
在这里插入图片描述
 
在这里插入图片描述
 
在这里插入图片描述

   登录之后就是上面这个界面,我们后面的博客将详细介绍如何通过Dify平台开发智能资产管理小助手

4. Dify应用开发平台对接华为云ModelArts Studio大模型

   第一步:登录到Dify平台:
在这里插入图片描述
 
   第二步:进入模型供应商页签,选择华为云MaaS平台
在这里插入图片描述
 
   第二步:设置连接大模型的API-KEY
在这里插入图片描述

   API Key请填入:API Key生成的KEY,首先得开通华为云ModelArts Studio大模型服务:
在这里插入图片描述
 
在这里插入图片描述
 
   添加一个LLM大模型,因为我在ModelArts Studio大模型服务中开通的DeepSeek-V3-32K,所以此处先择DeepSeek-V3。具体自己开通的是哪个版本可以登录ModelArts Studio控制台查看
在这里插入图片描述

5. 一键卸载Dify应用开发平台

   登录到资源编排服务服务页面:https://console.huaweicloud.com/rf/?region=cn-north-4#/console/stack/stacklist,找到需要卸载的资源栈,单击资源栈名称右侧“删除”按钮
在这里插入图片描述

 
   在弹出的删除资源栈确定框中,删除方式选择删除资源,输入Delete,单击“确定”,即可卸载解决方案。
在这里插入图片描述
 
   卸载完成之后,再去控制台看看是否还有没卸载干净的资源,防止还会产生费用。
在这里插入图片描述
   显示上述这样就是卸载干净了。如果使用一键卸载失败,也可以在资源控制台将资源逐个手动卸载。

### 华为云 ModelArts 的服务器资源配置与分配方法 华为云 ModelArts 是一款面向 AI 开发者的全流程服务平台,支持数据预处理、模型训练、部署等功能。关于 ModelArts 的服务器资源配置与分配方法,可以从以下几个方面展开说明: #### 1. **计算资源的选择** ModelArts 提供多种类型的计算资源以满足不同的应用场景需求。例如,在 Flexus 云服务中提到的 Flexus 云服务器 X 实例 Flexus 应用服务器 L 实例均可作为底层支撑[^1]。开发者可以根据具体的业务场景选择适合的实例类型,比如 GPU 加速实例用于深度学习训练。 对于 Yolo 模型开发这样的任务,则可能更多依赖于高性能 GPU 资源来加速模型训练过程[^2]。因此,在实际操作前需明确所需硬件规格(如 CPU 核心数、内存大小、GPU 类型及其数量),并通过平台提供的选项完成配置。 #### 2. **账户管理与初次设置** 当获得由管理员分发给每位用户的独立账号之后,首次登录时会被引导至修改默认密码页面[^4]。这一步骤非常重要,不仅保障个人隐私同时也增强了系统的安全性。 接着按照指引进入主界面并确认所选区域是否正确无误——因为不同地理位置可能会对应不一样的数据中心服务延迟情况等因素影响最终效果表现。另外值得注意的是,“收藏”功能可以帮助快速定位常用工具或模块位置以便日后高效调用。 #### 3. **具体配置流程** - 登录到指定网址后输入用户名及新设定后的密码; - 找到左侧菜单栏里的“三道杠”按钮打开全部可用选项列表; - 定位目标地域节点信息后再切换回原路径继续浏览其他子栏目内容直到找到标注名称为 “ModelArts”的链接入口处单击跳转过去即可开始正式探索之旅啦! 此外还有些额外的小贴士可供参考借鉴:如果希望减少每次重新查找的时间成本的话不妨试试看那个固定图标的功能哟~它能让经常使用的某些特定项目始终保持在显眼的位置方便随时取阅查阅哦~ ```python # 示例代码展示如何连接远程服务器进行自动化脚本编写 import paramiko ssh_client =paramiko.SSHClient() ssh_client.set_missing_host_key_policy(paramiko.AutoAddPolicy()) ssh_client.connect(hostname='your_server_ip', username='root', password='password') stdin, stdout, stderr = ssh_client.exec_command('nvidia-smi') print(stdout.read().decode()) ssh_client.close() ``` 以上就是有关华为云 ModelArts 平台服务器资源配置的一些基本介绍及相关注意事项。合理规划好各项参数指标能够极大地提升工作效率同时降低成本支出比例达到双赢局面的效果呢! ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

降世神童

学都学了,看也看了,感谢打赏

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值