langchain-chatchat 0.2.x安装
时间: 2025-01-14 19:54:42 AIGC 浏览: 131
### Langchain-Chatchat 0.2.x 版本安装指南
#### 准备环境
为了成功安装并运行 Langchain-Chatchat 0.2.x,需先准备合适的开发环境。对于 Windows 用户来说,在具备 A4000 显卡的情况下推荐使用 CUDA 11.8 来加速计算性能[^2]。
#### 下载项目源码
从官方仓库克隆最新版的 Langchain-Chatchat 源代码到本地计算机上:
```bash
git clone https://github.com/langchain-chatchat/Langchain-Chatchat.git
cd Langchain-Chatchat/
```
#### 修改配置文件
进入 `/home/chatchat/Langchain-Chatchat/configs` 或者对应于 Windows 的 `*\Langchain-Chatchat-0.2.final\configs\` 文件夹下找到名为 `model_config.py` 的配置文件,并按照需求调整参数设置。例如指定模型存储路径、嵌入式模型名称以及设备类型等选项:
```python
MODEL_ROOT_PATH = "D:/cuda/llms"
EMBEDDING_MODEL = "bge-large-zh-v1.5"
EMBEDDING_DEVICE = "cuda"
LLM_MODELS = ["Qwen-1_8B-Chat", "openai-api"]
LLM_DEVICE = "cuda"
```
执行如下命令来复制默认配置模板至当前工作区以便进一步自定义修改:
```bash
python copy_config_example.py
```
#### 安装依赖库
确保 Python 环境已经正确搭建完毕之后,通过 pip 工具安装所需的第三方包:
```bash
pip install -r requirements.txt
```
#### 启动服务端程序
完成上述准备工作后即可启动应用程序服务器部分:
```bash
uvicorn app.main:app --reload --host=0.0.0.0 --port=7860
```
阅读全文
相关推荐
















