llama.cpp安装
时间: 2025-01-11 19:43:29 AIGC 浏览: 206
### 如何在MacBook上安装LLama.cpp
#### 准备工作
为了确保顺利安装,需确认已安装Homebrew以及Python开发环境。对于非M2芯片设备,可以通过pip工具来获取必要的库支持。
#### 安装依赖项
利用Homebrew安装编译所需的依赖包,这一步骤能够简化后续的构建过程[^1]。
```bash
brew install cmake git
```
#### 获取源码
克隆官方仓库到本地机器,这是获得最新版本软件的基础操作[^2]。
```bash
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
```
#### 编译项目
根据操作系统不同选择合适的Makefile文件进行编译。对于苹果电脑而言,默认设置通常适用;而对于其他平台,则可能需要调整参数以适应特定硬件架构的需求。
```bash
make
```
#### 下载模型
除了上述提到的方式外,还可以借助`pyllama`库完成模型下载任务(针对不含有M2处理器的机型)[^4]。当然也支持手动从Hugging Face等网站获取预训练权重,并将其保存至指定路径下以便加载使用。
#### 配置环境变量
为了让系统识别新安装的应用程序及其关联资源,在`.zshrc`或同等作用范围内的shell配置文件里添加相应目录至PATH环境变量中去。
```bash
export PATH=$HOME/path/to/llama.cpp:$PATH
source ~/.zshrc
```
#### 测试运行
一切准备就绪之后就可以尝试执行简单的命令行指令来进行初步验证了。如果一切正常的话应该可以看到帮助信息输出而不是报错提示。
```bash
./main -h
```
阅读全文
相关推荐



















