npm

本文介绍如何使用 Ollama 和 Llama 3.2 模型构建本地 AI 应用，实现电子设备列表自动分类。通过 Python 脚本读取原始数据、设计提示词并与本地大模型交互，将未分类物品按类别排序输出至终端及文件。项目完全离线运行，无需云端或 API 密钥，具备高隐私性，适合自动化日常任务并灵活调整模型与提示词。

基于PHP+FFmpeg+OpenCC+Ollama本地大模型搭建全自动视频字幕翻译系统，Windows离线批量处理MKV视频，自动提取字幕、繁简转换、上下文AI翻译、字幕自动换行，硬压字幕输出MP4，全程不上传素材，保护视频隐私，适合自媒体、教学视频本地化汉化。

本文介绍 Embeddings 技术，将文本转换为数值向量以便存储和检索。支持通过命令行、管道或 API 生成，输出为 JSON 数组。向量长度通常为 384 至 1024 维，采用 L2 归一化。适用于语义搜索、RAG 流程及向量数据库查询，推荐使用余弦相似度并保持一致的模型。

本指南介绍如何快速入门 Llama 应用，从安装到使用终端或 Web UI 与模型对话。支持下载 Gemma-4 E4B 等 GGUF 模型，提供 CLI 命令行交互及 HTTP API 服务化功能。内置聊天界面兼容 OpenAI 端点，支持图像、文本、音频多模态输入，并可根据设备内存自动调整配置，适合开发者快速部署与使用。

本文介绍 Ollama 支持的工具调用功能，包括单次、并行及多轮工具调用模式。涵盖 Agent 循环机制与流式传输处理技巧，并提供 Python SDK 和 JavaScript 库的安装及使用指南，帮助用户高效集成函数作为工具 schema。

本文介绍 Ollama 语音模型 Phonon 的使用方法。支持流式传输音频，实现边生成边播放。可配置不同声音，通过终端或 API 调用生成 WAV 格式音频。适用于 macOS、Linux 和 Windows 系统，支持将音频保存至文件或重定向输出，适合服务器环境及远程收听需求。

本文介绍如何在桌面应用和编码代理中使用 Ollama。支持 macOS、Windows 及 Linux 系统，提供本地与云端两种运行模式。教程涵盖 API 密钥创建、模型下载、终端启动命令以及 Claude Code、Codex CLI 等集成工具的配置方法，助您快速构建 AI 应用程序。

本文详细介绍 Ollama 对各类硬件的 GPU 加速支持情况。涵盖 Nvidia CUDA、AMD ROCm、Apple Metal 及 Vulkan 等后端配置，提供不同显卡型号（如 RTX 40/50 系列、Radeon RX）的驱动版本要求与兼容性列表。同时讲解多卡选择、CPU 回退设置及 Linux 容器权限等高级用法，助您优化本地大模型运行性能。

本文介绍 System One 决策模型，支持文本分类、是非问答及评分功能。涵盖 Nimble、Tev1、Clef 等模型，其中 Clef 可处理图像判断。文章详解本地运行无需 API key 的设置方法，包括状态输入、标签与等级选择逻辑。同时说明云端模型调用方式、请求限制如 token 窗口、图片规格及用量计费标准，帮助用户高效部署与使用决策系统。

运行服务器是一款轻量级 LLM 推理 HTTP 服务器，提供 OpenAI 兼容 API 及内置 Web UI。它支持多用户并行解码、连续批处理、Prompt caching 加速以及嵌入、重排序和多模态模型服务。此外，还具备推测解码功能和灵活的模型路由模式，适合快速部署与高效推理需求。