Linux-Ollama 中文手册-果果开发

安装

要安装 Ollama，请运行以下命令：

curl -fsSL https://ollama.com/install.sh | sh

手动安装

如果您是从旧版本升级，应先使用 sudo rm -rf /usr/lib/ollama 移除旧库。

下载并解压软件包：

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

启动 Ollama：

ollama serve

在另一个终端中，验证 Ollama 是否正在运行：

ollama -v

AMD GPU 安装

如果您拥有 AMD GPU，还需下载并解压额外的 ROCm 软件包：

curl -fsSL https://ollama.com/download/ollama-linux-amd64-rocm.tar.zst \
    | sudo tar x -C /usr

ARM64 安装

下载并解压适用于 ARM64 的软件包：

curl -fsSL https://ollama.com/download/ollama-linux-arm64.tar.zst \
    | sudo tar x -C /usr

将 Ollama 添加为启动服务（推荐）

为 Ollama 创建用户和组：

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)

在 /etc/systemd/system/ollama.service 中创建服务文件：

[Unit]Description=Ollama ServiceAfter=network-online.target[Service]ExecStart=/usr/bin/ollama serve
User=ollamaGroup=ollamaRestart=alwaysRestartSec=3Environment="PATH=$PATH"[Install]WantedBy=multi-user.target

然后启动该服务：

sudo systemctl daemon-reload
sudo systemctl enable ollama

安装 CUDA 驱动程序（可选）

下载并安装 CUDA。

通过运行以下命令验证驱动程序是否已安装，该命令应打印有关您 GPU 的详细信息：

nvidia-smi

安装 AMD ROCm 驱动程序（可选）

下载并安装 ROCm v7。

启动 Ollama

启动 Ollama 并验证其是否正在运行：

sudo systemctl start ollama
sudo systemctl status ollama

虽然 AMD 已将 amdgpu 驱动贡献到官方 linuxkernel 源码上游，但该版本较旧，可能不支持所有 ROCm 功能。我们建议您从 https://www.amd.com/en/support/download/linux-drivers.html 安装最新驱动程序，以获得对 Radeon GPU 的最佳支持。

自定义配置

要自定义 Ollama 的安装，您可以编辑 systemd 服务文件或环境变量，运行：

sudo systemctl edit ollama

或者，在 /etc/systemd/system/ollama.service.d/override.conf 中手动创建覆盖文件：

[Service]
Environment="OLLAMA_DEBUG=1"

更新

再次运行安装脚本以更新 Ollama：

curl -fsSL https://ollama.com/install.sh | sh

或重新下载 Ollama：

curl -fsSL https://ollama.com/download/ollama-linux-amd64.tar.zst \
    | sudo tar x -C /usr

安装特定版本

使用 OLLAMA_VERSION 环境变量配合安装脚本来安装 Ollama 的特定版本，包括预发布版本。您可以在发布页面中找到版本号。

例如：

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.5.7 sh

查看日志

要查看作为启动服务运行的 Ollama 日志，请运行：

journalctl -e -u ollama

卸载

移除 ollama 服务：

sudo systemctl stop ollama
sudo systemctl disable ollama
sudo rm /etc/systemd/system/ollama.service

从您的 lib 目录中移除 ollama 库（位于 /usr/local/lib、/usr/lib 或 /lib）：

sudo rm -r $(which ollama | tr 'bin' 'lib')

从您的 bin 目录中移除 ollama 二进制文件（位于 /usr/local/bin、/usr/bin 或 /bin）：

sudo rm $(which ollama)

移除下载的模型以及 Ollama 服务用户和组：

sudo userdel ollama
sudo groupdel ollama
sudo rm -r /usr/share/ollama