Llama App 可以轻松地与你的智能体配对，本节介绍如何为 Pi 和 Codex / ChatGPT 进行配置。

我们建议运行上下文窗口至少为 32k tokens 的模型，因为智能体会快速填满上下文。有关推荐的优质模型，请参阅此列表中的推荐模型，特别关注那些提到“agentic coding”（智能体编程）的模型。

工作原理

该设置包含两个在本地运行的组件：

  1. Llama App — 提供模型服务。
  2. 你的智能体 — 发送提示词到本地服务器、对任务进行推理并执行操作的智能体进程。
┌─────────┐     API calls     ┌──────────────────┐
│  Agent  │ ───────────────▶  │  llama.cpp server│
│         │ ◀───────────────  │  (local model)   │
└─────────┘    responses      └──────────────────┘
     │
     ▼
  Your files,
  terminal, etc.

一旦你在 Llama App 上开始提供模型服务，就可以将它们用于编程智能体。

Pi

Pi 是一个高效且性能卓越的编程框架（它也是 OpenClaw 背后的技术）。它可以轻松集成 Llama App。

安装 Pi：

curl -fsSL https://pi.dev/install.sh | sh

在你的项目目录中启动 Pi：

cd /path/to/project
pi

通过运行以下命令配置 Pi 以使用你的 Llama App 服务器

/login llama.cpp

输入服务器 URL，默认为 http://127.0.0.1:9931。然后在 Pi 中运行 /model 以选择当前会话使用的模型。

ChatGPT 桌面版和 Codex CLI

你也可以将 ChatGPT 桌面应用和 OpenAI Codex CLI 与 Llama App 配合使用。首先，你需要安装 Codex CLI。

npm install -g @openai/codex

要在 Codex CLI 和 ChatGPT Desktop 中使用 Llama App，请将以下配置添加到 ~/.codex/config.toml。

model = "ggml-org/Qwen3.5-35B-A3B-GGUF" # id of the model you serve
model_provider = "llamacpp"

[model_providers.llamacpp]
name = "llama.cpp"
base_url = "http://127.0.0.1:9931/v1"
wire_api = "responses"
requires_openai_auth = false
supports_websockets = false

要使用 Codex CLI，只需在项目目录中按如下方式运行它。

cd /path/to/project
codex

要使用 ChatGPT Desktop，只需退出并重启该应用。

其他智能体

你可以通过指向基础端点 URL（默认为 http://127.0.0.1:9931/v1），在任何兼容 OpenAI 的智能体中使用 Llama App。