ubuntu 2204 带显卡本地部署ollama + deepseek

1. 检查系统中是否有NVIDIA设备

lspci | grep -i nvidia

注释:此命令用于确认系统中是否存在NVIDIA图形处理器。


2. 更新系统包列表和安装必要的构建工具

sudo apt update
sudo apt install build-essential dkms

注释

  • apt update:更新可用软件包的列表。

  • build-essentialdkms:安装构建NVIDIA驱动所需的工具。


3. 自动安装推荐的NVIDIA驱动程序

sudo ubuntu-drivers autoinstall

注释:此命令会自动检测并安装适用于系统的最新稳定NVIDIA驱动程序。


4. 验证安装的驱动程序

ubuntu-drivers devices

注释:列出系统中所有支持的NVIDIA设备及其推荐的驱动程序版本。


5. 手动安装特定版本的NVIDIA驱动程序(可选)

如果需要安装特定版本的驱动程序,可以使用以下命令:

sudo apt install nvidia-driver-550

注释:此步骤仅在自动安装未满足需求时使用。请将 550 替换为您所需的驱动程序版本。


6. 验证NVIDIA显卡状态

nvidia-smi

注释:显示GPU的使用情况和温度,确认驱动程序已正确安装并运行。


7. 安装Ollama(可选)

如果需要安装Ollama AI模型运行环境,请按照以下步骤操作:

a. 下载并安装Ollama
curl -fsSL https://ollama.01.ai/install.sh | sh

注释:此命令会下载并执行Ollama的安装脚本。

b. 启动并验证Ollama服务
sudo systemctl status ollama.service
journalctl -u ollama.service

注释

  • systemctl status:检查Ollama服务的状态。

  • journalctl:查看Ollama服务的日志输出。

c. 下载并运行模型(示例)
ollama list
ollama run deepseek-ai/deepseek-coder-33b-instruct:latest

注释

  • ollama list:列出已下载的模型。

  • ollama run:运行指定的AI模型。


总结

通过以上步骤,您可以在Ubuntu 22.04上成功安装NVIDIA显卡驱动程序,并可选地配置Ollama AI环境。如果在过程中遇到任何问题,请确保所有命令以管理员权限(sudo)执行,并检查系统日志获取更多信息。



上一篇: