乌班图24.04部署fastGPT
时间: 2025-03-27 07:39:03 浏览: 64
### 安装和配置 FastGPT
#### 准备工作
为了在 Ubuntu 24.04 上成功部署 FastGPT 并利用 GPU 加速,需先确保系统已经更新至最新状态,并准备好必要的硬件驱动程序。
对于 NVIDIA 显卡的支持,可以通过运行特定脚本来完成驱动安装:
```bash
sudo ./NVIDIA-Linux-x86_64-525.60.11.run --no-opengl-files
```
这一步骤能够确保操作系统识别并正确使用显卡资源[^1]。
#### 创建 Python 虚拟环境
建议在一个隔离的环境中管理项目所需的 Python 库版本。这里采用 Conda 来创建一个新的虚拟环境 `ChatGLM3` 使用 Python 版本 3.11:
```bash
conda create --name ChatGLM3 python=3.11
conda activate ChatGLM3
```
激活该环境后即可继续下一步操作[^3]。
#### 获取所需库文件
由于目标是在没有网络连接的情况下执行此过程,因此需要预先在一个有外网访问权限的地方下载所有必需的软件包。具体做法如下:
1. 在另一台可以上网的机器上同步相同的 Linux 发行版;
2. 执行以下命令来获取编译工具链和其他基础组件而不实际安装它们;
```bash
apt-get update && apt-get clean
apt-get install -d build-essential
```
随后将 `/var/cache/apt/archives/` 中的内容复制到目标服务器相应位置以便后续离线安装这些deb包[^2]。
#### 安装依赖项
进入之前提到的目标路径下,通过 dpkg 命令批量处理 `.deb` 文件实现离线状态下对上述提及的基础构建工具集以及其他可能缺少的关键件进行安装。
接着,在已激活的 Conda 环境里按照官方文档指示加载 FastGPT 的 Python 层面需求列表:
```bash
pip install -r requirements.txt -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple
pip install tiktoken
```
至此完成了大部分准备工作,现在应该可以根据 FastGPT 自身的要求进一步调整设置或启动服务了。
阅读全文
相关推荐


















