Ollama下载、安装配置与大模型运行详细教程!!!

一、Ollama下载

Ollama官网提供的是Github下载地址,由于Github无法打开或打开很慢,导致下载速度很慢或无法下载。此网站仅对官网的下载地址进行加速下载,下载下来的安装包是和官网一致的。

ollama加速下载: https://ollama.ruanmao.net/
在这里插入图片描述
选择对应版本下载即可

二、Ollama安装与配置

1、安装ollama

(1)找到下载后的安装包,双击进行安装即可。

安装包

点击“Install”

在这里插入图片描述
正在安装

(2)ollama安装完成后,会发现在电脑右下角托盘中有一个“羊驼”图标。

在这里插入图片描述

(3)查看ollama的安装文件目录、模型文件目录和日志文件目录均在C盘。

// ollama的安装文件目录
安装文件目录
// ollama的模型models文件目录模型文件目录
// ollama的日志文件目录
日志文件目录

(4)

2、修改ollama的大模型下载目录

由于模型文件比较大,若将下载的模型都放在C盘的话,C盘很快就会爆满,因此最好将模型下载目录改到别的盘符下面。具体步骤如下:

(1)在别的盘符下新创建一个目录,如:“D:\Ollama\Models”。

(2)找到桌面“此电脑”图标,右键“属性”–>“高级系统设置”。

在这里插入图片描述

(3)点击“环境变量”,在系统变量下点击“新建”:变量名为“OLLAMA_MODELS”,变量值为“D:\Ollama\Models”(变量值为你新建的模型目录

在这里插入图片描述
!!!注意:修改完一定要逐级点“确定”保存。

三、Ollama运行大模型

1、安装好之后可以在浏览器中输入链接: http://localhost:11434/,显示ollama正在运行。

在这里插入图片描述

2、搜索cmd,打开命令行窗口,输入ollama --version,也可验证是否安装成功。

在这里插入图片描述

3、模型下载:可在ollama的在线模型库中下载,网址为:链接: https://www.ollama.com/library

在这里插入图片描述
点击选择对应模型,可以直接复制模型运行命令,非常方便。
在这里插入图片描述

4、在命令行窗口中运行某一模型并开始对话测试。

(如果是首次运行某一模型,它会自动下载)
在这里插入图片描述

ollama的常用命令:

ollama list                //显示模型目录
ollama serve               //启动Ollama服务 
ollama create              //从模型文件创建模型 
ollama show [模型名称]      //显示模型信息
ollama run [模型名称]       //运行模型 
ollama pull [模型名称]      //从注册表中拉去模型 
ollama push                //将模型推送到注册表 
ollama cp                  //复制模型
ollama rm [模型名称]        //删除模型
ollama help                //获取有关Ollama任何命令的帮助信息 

/bye                       //退出对话

♥♥♥如果觉得有用的话记得点个赞哦~~~欢迎大家评论交流♥♥♥
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值