本文目标:部署 DeepSeek 本地模型,并通过 Ollama 提供 API 支持,Chatbox 提供 UI 界面。
- 1.下载Ollama并安装运行DeepSeek
- 2.下载Chatbox并配置为本地DeepSeek
- 3.无需联网也能和DeepSeek畅快聊天
1.下载Ollama并安装运行DeepSeek
从Ollama官方网站下载Ollama:
进入Ollama官方网站后,可以看到Ollama已经支持DeepSeek-R1的部署:
点击DeepSeek-R1
的链接可以看到有关deepseek-r1的详细介绍:
目前deepseek-r1模型大小提供了7个选择:1.5b、7b、8b、14b、32b、70b、671b。
因为我笔记本的显卡配置较低,所以这里只能选择最小的1.5b模型来做演示
你可以根据你的硬件情况选择,通常模型大小(参数量)越大,模型的理解和生成能力越强,但也会消耗更多的计算资源。
点击Download
按钮下载符合自己平台的Ollama:
下载文件大小不到200M,文件名为:Ollama-darwin.zip
。
解压后打开Ollama应用程序点击
Install
安装ollama。
这里Ollama默认给出的例子是下载/运行llama3.2大模型,
我们这里不使用这个llama3.2模型,直接下载/运行deepseek,参数选择最小的1.5b,在终端窗口运行下面命令:
ollama run deepseek-r1:1.5b
这里就直接可以和DeepSeek对话了:
2.下载Chatbox并配置为本地DeepSeek
Chatbox官方网站:
下载安装后启动
注意、这里应该选择OLLAMA API,然后就可以看到我们上一步安装好的deepseek-r1:1.5b
。
3.无需联网也能和DeepSeek畅快聊天
配置好DeepSeek本地模型之后,就可以实现在断网情况下自由问答了,比如,此刻我正在写这篇文章,于是就问他帮我想几个备选的标题: