基本示例

本文介绍如何使用 Ollama 和 Llama 3.2 模型构建本地 AI 应用，实现电子设备列表自动分类。通过 Python 脚本读取原始数据、设计提示词并与本地大模型交互，将未分类物品按类别排序输出至终端及文件。项目完全离线运行，无需云端或 API 密钥，具备高隐私性，适合自动化日常任务并灵活调整模型与提示词。

本文详细介绍 Ollama Modelfile 参考指南，涵盖创建和共享自定义模型的蓝图格式。内容包括必需指令 FROM、有效参数设置如上下文窗口与温度、提示模板变量、系统消息及法律许可证指定。同时讲解基于 Safetensors 和 GGUF 模型构建方法、分片处理、投机采样配置以及版本要求等注意事项，帮助用户高效定制大模型。

本文详细介绍 Ollama 常见问题解决方案，涵盖 macOS、Windows 及 Linux 系统的模型升级方法、GPU 兼容性检查与配置。内容包括如何通过环境变量调整上下文窗口大小、在 Docker 中启用 GPU 加速、禁用云端功能以保护隐私、设置代理服务器访问模型、优化 Flash Attention 与 K/V 缓存量化以减少内存占用，以及管理并发请求和模型加载策略。

本文介绍 System One 决策模型，支持文本分类、是非问答及评分功能。涵盖 Nimble、Tev1、Clef 等模型，其中 Clef 可处理图像判断。文章详解本地运行无需 API key 的设置方法，包括状态输入、标签与等级选择逻辑。同时说明云端模型调用方式、请求限制如 token 窗口、图片规格及用量计费标准，帮助用户高效部署与使用决策系统。

本文介绍 Ollama 云端目前不支持结构化输出的现状，并探讨如何通过 JSON schema 强制实施模型响应格式。文章涵盖使用 Pydantic、Zod 等工具验证数据的方法，以及结合视觉模型实现图像确定性描述的实用技巧，帮助开发者构建更可靠的 AI 应用。

本文详细介绍 Ollama 对各类硬件的 GPU 加速支持情况。涵盖 Nvidia CUDA、AMD ROCm、Apple Metal 及 Vulkan 等后端配置，提供不同显卡型号（如 RTX 40/50 系列、Radeon RX）的驱动版本要求与兼容性列表。同时讲解多卡选择、CPU 回退设置及 Linux 容器权限等高级用法，助您优化本地大模型运行性能。

本文介绍如何在桌面应用和编码代理中使用 Ollama。支持 macOS、Windows 及 Linux 系统，提供本地与云端两种运行模式。教程涵盖 API 密钥创建、模型下载、终端启动命令以及 Claude Code、Codex CLI 等集成工具的配置方法，助您快速构建 AI 应用程序。

本文介绍视觉模型如何同时处理图像与文本，实现内容描述、分类及问答功能。文章涵盖使用 Ollama API 快速开始的数组方法，SDK 支持文件路径、URL 或原始字节数据输入，而 REST API 则需 base64 编码图像。同时提供 curl、Python 和 JavaScript 的调用示例，帮助用户灵活集成多模态视觉能力。

Ollama Web Search API 为模型提供最新信息，减少幻觉并提高准确性。通过创建免费账户获取 API Key 即可访问。该 API 支持 REST 调用及 Python、JavaScript 库集成，能返回网页标题、URL 和内容片段。适用于构建搜索代理或集成至 Cline、Goose 等工具，需确保模型上下文长度足够以处理大量搜索结果。

本文介绍 Ollama CLI 参考，涵盖模型启动、外部应用集成配置及交互式设置方法。支持 OpenCode、Claude Code、Codex、VS Code 等工具集成。详解多行输入处理、决策模型状态查询、语音交互功能以及模型的下载、删除、登录与自定义创建等完整操作流程。