- 博客(20)
- 收藏
- 关注
原创 【Ubuntu服务器部署deepseek大模型】
本文介绍了在Ubuntu服务器上部署大语言模型的完整流程。主要内容包括:1)安装Ubuntu图形化界面;2)Ollama的在线/离线安装方法;3)NVIDIA显卡驱动的两种安装方式;4)CUDA Toolkit的安装与环境变量配置;5)通过Ollama下载并运行Deepseek模型;6)nvidia-smi命令的常用操作。文章详细说明了各环节的具体命令和配置步骤,特别强调了GPU驱动与CUDA版本的匹配关系,为在Ubuntu系统上部署AI大模型提供了全面的技术指导。
2025-07-07 09:49:05
923
原创 进程间通信(InterProcess Communication,IPC):套接字(SOCKET)
IPC的方式通常有linux下的 管道(Streams)(包括无名管道和命名管道)、消息队列、信号量、信号、共享存储、Socket等。本文记录socket 通信容易忽略的地方
2023-11-06 13:42:34
256
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人