指标端点

本文介绍 API 服务器功能，支持多种格式暴露 REST API。提供 OpenAI 和 Anthropic 兼容端点，涵盖 Chat Completions、Embeddings 及原生补全等。支持结构化输出、工具调用、多模态输入处理，并包含推理模型与性能监控指标，适用于各类 AI 应用场景。

本文深入解析大语言模型推理的两个核心阶段：预填充与解码。预填充阶段处理提示词，受计算能力限制；解码阶段生成答案，受内存带宽限制。文章详细探讨了影响各阶段性能的关键因素，如上下文长度、模型大小及硬件瓶颈。同时介绍了 KV Cache 机制如何加速注意力运算，并分析了 TTFT、TPOT 等用户体验指标及其优化策略，旨在帮助开发者提升推理效率与吞吐量。

本文详细介绍 Ollama 常见问题解决方案，涵盖 macOS、Windows 及 Linux 系统的模型升级方法、GPU 兼容性检查与配置。内容包括如何通过环境变量调整上下文窗口大小、在 Docker 中启用 GPU 加速、禁用云端功能以保护隐私、设置代理服务器访问模型、优化 Flash Attention 与 K/V 缓存量化以减少内存占用，以及管理并发请求和模型加载策略。

运行服务器是一款轻量级 LLM 推理 HTTP 服务器，提供 OpenAI 兼容 API 及内置 Web UI。它支持多用户并行解码、连续批处理、Prompt caching 加速以及嵌入、重排序和多模态模型服务。此外，还具备推测解码功能和灵活的模型路由模式，适合快速部署与高效推理需求。

本文介绍 Embeddings 技术，将文本转换为数值向量以便存储和检索。支持通过命令行、管道或 API 生成，输出为 JSON 数组。向量长度通常为 384 至 1024 维，采用 L2 归一化。适用于语义搜索、RAG 流程及向量数据库查询，推荐使用余弦相似度并保持一致的模型。

本文介绍 Ollama 语音模型 Phonon 的使用方法。支持流式传输音频，实现边生成边播放。可配置不同声音，通过终端或 API 调用生成 WAV 格式音频。适用于 macOS、Linux 和 Windows 系统，支持将音频保存至文件或重定向输出，适合服务器环境及远程收听需求。

本指南介绍如何快速入门 Llama 应用，从安装到使用终端或 Web UI 与模型对话。支持下载 Gemma-4 E4B 等 GGUF 模型，提供 CLI 命令行交互及 HTTP API 服务化功能。内置聊天界面兼容 OpenAI 端点，支持图像、文本、音频多模态输入，并可根据设备内存自动调整配置，适合开发者快速部署与使用。

本文介绍如何使用 Llama App 与各类智能体配对，包括 Pi、Codex/ChatGPT 等。提供本地模型服务配置指南，建议选用支持 32k tokens 以上上下文的优质模型。涵盖安装步骤、服务器 URL 设置及重启应用等操作，助力开发者高效构建智能体编程环境。