Ollama 作为原生 Windows 应用程序运行，支持 NVIDIA 和 AMD Radeon GPU。安装 Windows 版 Ollama 后，它将在后台运行，且 ollama 命令行在 cmd、powershell 或您常用的终端应用中可用。通常情况下，Ollama API 会在 http://localhost:11434 上提供服务。

系统要求

  • Windows 10 22H2 或更新版本，家庭版或专业版
  • 如果您使用 NVIDIA 显卡，需要 NVIDIA 551.61 或更新的驱动程序
  • 用于 ROCm 加速的 AMD ROCm v7 / HIP7 兼容驱动栈，或用于 Vulkan 加速的兼容 Vulkan 的 AMD Radeon 驱动

Ollama 使用 Unicode 字符来指示进度，这可能会导致在某些较旧的 Windows 10 终端字体中显示为未知方块。如果出现这种情况，请尝试更改终端字体设置。

某些 RDNA2 / Radeon RX 6000 系列系统（包括 RX 6800 级别显卡）可能不会在当前 Windows AMD 驱动上暴露 ROCm v7。Vulkan 默认启用，并且是这些系统的推荐备用方案。如果混合 iGPU/dGPU 系统选择了不稳定的 Vulkan iGPU，请将 GGML_VK_VISIBLE_DEVICES 设置为独立 GPU 索引。

文件系统要求

Ollama 的安装不需要管理员权限，默认安装在您的主目录中。二进制文件安装至少需要 4GB 空间。安装 Ollama 后，您需要额外空间来存储大语言模型，这些模型大小可达几十到几百 GB。如果您的主目录空间不足，您可以更改二进制文件的安装位置以及模型的存储位置。

更改安装位置

若要将 Ollama 应用程序安装到不同于主目录的位置，请使用以下标志启动安装程序：

OllamaSetup.exe /DIR="d:\some\location"

更改模型位置

若要更改 Ollama 下载模型的存储位置而不是使用主目录，请在您的用户账户中设置环境变量 OLLAMA_MODELS。

  1. 启动“设置”（Windows 11）或“控制面板”（Windows 10）应用，并搜索 环境变量。

  2. 点击 编辑账户的环境变量。

  3. 为您希望存储模型的位置编辑或创建新的用户账户变量 OLLAMA_MODELS。

  4. 点击确定/应用以保存。

如果 Ollama 已经在运行，请退出托盘应用，并从开始菜单或在保存环境变量后启动的新终端中重新启动它。

API 访问

以下是从 powershell 进行 API 访问的快速示例：

(Invoke-WebRequest -method POST -Body '{"model":"llama3.2", "prompt":"Why is the sky blue?", "stream": false}' -uri http://localhost:11434/api/generate ).Content | ConvertFrom-json

故障排除

Windows 上的 Ollama 将文件存储在几个不同的位置。您可以通过按 <Ctrl>+R 并在资源管理器窗口中输入以下内容来查看它们：

  • explorer %LOCALAPPDATA%\Ollama 包含日志和下载的更新
    • app.log 包含 GUI 应用的最新日志
    • server.log 包含最新的服务器日志
    • upgrade.log 包含升级的日志输出
  • explorer %LOCALAPPDATA%\Programs\Ollama 包含二进制文件（安装程序会将此路径添加到用户 PATH）
  • explorer %HOMEPATH%\.ollama 包含模型和配置
  • explorer %TEMP% 包含一个或多个 ollama* 目录中的临时可执行文件

卸载

Ollama Windows 安装程序注册了一个卸载程序应用。在 Windows 设置的 添加或删除程序 下，您可以卸载 Ollama。

如果您更改了 OLLAMA_MODELS 的位置，安装程序将不会删除您下载的模型。

独立 CLI

在 Windows 上安装 Ollama 最简单的方法是使用 OllamaSetup.exe 安装程序。它在您的账户中安装，无需管理员权限。我们定期更新 Ollama 以支持最新的模型，此安装程序将帮助您保持最新状态。

如果您希望将 Ollama 安装或集成为服务，可以使用独立的 ollama-windows-amd64.zip 压缩包，其中仅包含 Ollama CLI 和 Nvidia 的 GPU 库依赖项。根据您的硬件，您可能还需要下载并将其他包解压到同一目录：

  • AMD GPU: ollama-windows-amd64-rocm.zip
  • MLX (CUDA): ollama-windows-amd64-mlx.zip

这允许将 Ollama 嵌入现有应用中，或使用如 NSSM 等工具通过 ollama serve 将其作为系统服务运行。

如果您是从较早版本升级，应先删除旧目录。