你可以轻松地在你的机器上安装 llama.cpp：

  • Mac 和 Windows： 安装 Llama app
  • Linux（或如果你只需要命令行）： 一行安装命令

Llama app（推荐）

下载适用于 Mac 或 Windows 11 的应用。它在 Mac 上位于菜单栏，在 Windows 上位于系统托盘。

该应用还会为你设置 llama 命令行，因此你可以在终端中使用 llama cli、llama serve 和其他工具。

一行安装

如果你在 Linux 上，或者只需要命令行，以下命令会检测你的平台，获取最新的 llama binary 并将其添加到你的 PATH。

在 Mac 和 Linux 上：

curl -LsSf https://llama.app/docs/install.sh | sh

在 Windows 上，使用 PowerShell：

irm https://llama.app/docs/install.ps1 | iex

其他安装方式

llama.cpp 也可以通过包管理器、预编译 binary 和 Docker images 获取，你也可以从源码构建它。请参阅 llama.cpp 的 installation 和 build 指南。

验证安装

如果你安装了应用，其图标会出现在菜单栏（Mac）或系统托盘（Windows）中。点击它以打开应用：

Mac 上的 Llama app

要检查命令行，请打开一个新的终端并运行：

llama cli --version

如果打印出版本和构建信息，说明你已准备就绪。

继续查看 Quickstart 以下载并运行你的第一个模型，或查看 Using Llama App with Agents 以将其与编码 agent 配对使用。