分词

llama.cpp 是一款高性能库，让您在笔记本或服务器上轻松运行大型语言模型。配套的 Llama app 提供极简桌面体验，支持 Mac 和 Windows。项目支持 GGUF 格式模型，内置 Web 界面及 OpenAI 兼容 API，适合本地部署、终端实验及快速开发，无需复杂配置即可启动服务。