保姆级本地Windows环境快速部署DeepSeek大模型(带Web交互界面)教程

第一:在如下Ollama官网下载Ollama并安装

Ollamahttps://ollama.com/

如果你的网络不好无法执行下载任务,例如:

可以直接鼠标停留 Download for Windows 处,点击右键复制链接地址(复制链接即为网页左下方红框处显示地址),通过第三方工具,如迅雷下载:

 

第二:下载DeepSeek大模型 

在官网的Models中搜索并下载DeepSeek模型,选择合适参数大小的版本

DeepSeek各参数版本与最少需要的GPU显存关系表如下:

模型参数规模4位量化后显存需求8位量化后显存需求未量化(FP16/FP32)显存需求适用场景
1.5B4 GB8 GB12 GB以上小型对话系统、轻量级文本生成、移动端应用
7B8 GB16 GB24 GB以上中等复杂度对话、基础语言理解、嵌入式AI设备
14B12 GB24 GB48 GB以上高级语言模型应用、复杂问答系统、多轮对话
32B24 GB48 GB96 GB以上大规模语言模型、专业领域应用(如法律、医疗)、高性能计算集群
70B及以上40 GB及以上80 GB及以上160 GB以上超大规模语言模型、高级自然语言处理任务、研究机构或大型企业专用

 官网中提供的是INT4量化后的模型

复制上述红框处命令,在桌面的Windows图标处点击右键中的运行,并输入cmd:

 

命令行中输入之前复制的命令,如:ollama run deepseek-r1:1.5b

即可自动下载

如果下载突然变得很慢,可以先打断之后再重新执行命令可以继续下载 

模型下载成功后即可在命令行界面中开启对话:

第三:Web交互界面

访问ChatBox官网: 

Chatbox AI官网:办公学习的AI好助手,全平台AI客户端,官方免费下载https://chatboxai.app/zh

可以选择下载客户端或直接启动网页版,此处用网页版进行演示,点击左下角设置,选择Ollama API:

 系统环境变量设置操作过程如下:

 左下角使用右键点击Windows图标后选择系统,并搜索环境变量,点击编辑用户环境变量,新建上述两个新的变量:

 

 

设置完成后再启动Ollama ,Windows菜单点击Ollama图标即可

 

此时ChatBox中可以选择到本地下载的模型 ,保存即可开始对话:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值