一、Ollama下载
Ollama官网提供的是Github下载地址,由于Github无法打开或打开很慢,导致下载速度很慢或无法下载。此网站仅对官网的下载地址进行加速下载,下载下来的安装包是和官网一致的。
ollama加速下载: https://ollama.ruanmao.net/
选择对应版本下载即可
二、Ollama安装与配置
1、安装ollama
(1)找到下载后的安装包,双击进行安装即可。
点击“Install”
(2)ollama安装完成后,会发现在电脑右下角托盘中有一个“羊驼”图标。
(3)查看ollama的安装文件目录、模型文件目录和日志文件目录均在C盘。
// ollama的安装文件目录
// ollama的模型models文件目录
// ollama的日志文件目录
(4)
2、修改ollama的大模型下载目录
由于模型文件比较大,若将下载的模型都放在C盘的话,C盘很快就会爆满,因此最好将模型下载目录改到别的盘符下面。具体步骤如下:
(1)在别的盘符下新创建一个目录,如:“D:\Ollama\Models”。
(2)找到桌面“此电脑”图标,右键“属性”–>“高级系统设置”。
(3)点击“环境变量”,在系统变量下点击“新建”:变量名为“OLLAMA_MODELS”,变量值为“D:\Ollama\Models”(变量值为你新建的模型目录)
!!!注意:修改完一定要逐级点“确定”保存。
三、Ollama运行大模型
1、安装好之后可以在浏览器中输入链接: http://localhost:11434/,显示ollama正在运行。
2、搜索cmd,打开命令行窗口,输入ollama --version,也可验证是否安装成功。
3、模型下载:可在ollama的在线模型库中下载,网址为:链接: https://www.ollama.com/library
点击选择对应模型,可以直接复制模型运行命令,非常方便。
4、在命令行窗口中运行某一模型并开始对话测试。
(如果是首次运行某一模型,它会自动下载)
ollama的常用命令:
ollama list //显示模型目录
ollama serve //启动Ollama服务
ollama create //从模型文件创建模型
ollama show [模型名称] //显示模型信息
ollama run [模型名称] //运行模型
ollama pull [模型名称] //从注册表中拉去模型
ollama push //将模型推送到注册表
ollama cp //复制模型
ollama rm [模型名称] //删除模型
ollama help //获取有关Ollama任何命令的帮助信息
/bye //退出对话