【Ollama 中文手册】决策
本文介绍 System One 决策模型,支持文本分类、是非问答及评分功能。涵盖 Nimble、Tev1、Clef 等模型,其中 Clef 可处理图像判断。文章详解本地运行无需 API key 的设置方法,包括状态输入、标签与等级选择逻辑。同时说明云端模型调用方式、请求限制如 token 窗口、图片规格及用量计费标准,帮助用户高效部署与使用决策系统。
关于索引的技术文章和开发文档。
本文介绍 System One 决策模型,支持文本分类、是非问答及评分功能。涵盖 Nimble、Tev1、Clef 等模型,其中 Clef 可处理图像判断。文章详解本地运行无需 API key 的设置方法,包括状态输入、标签与等级选择逻辑。同时说明云端模型调用方式、请求限制如 token 窗口、图片规格及用量计费标准,帮助用户高效部署与使用决策系统。
本文介绍 Embeddings 技术,将文本转换为数值向量以便存储和检索。支持通过命令行、管道或 API 生成,输出为 JSON 数组。向量长度通常为 384 至 1024 维,采用 L2 归一化。适用于语义搜索、RAG 流程及向量数据库查询,推荐使用余弦相似度并保持一致的模型。
本文详细介绍 Windows 版 Ollama 的安装、配置与使用指南。涵盖系统要求、NVIDIA 及 AMD 显卡驱动支持、环境变量设置、模型存储路径修改、API 访问示例以及故障排除方法,帮助用户在 Windows 10/11 上高效部署和运行本地大语言模型。
本文详细介绍 Ollama 对各类硬件的 GPU 加速支持情况。涵盖 Nvidia CUDA、AMD ROCm、Apple Metal 及 Vulkan 等后端配置,提供不同显卡型号(如 RTX 40/50 系列、Radeon RX)的驱动版本要求与兼容性列表。同时讲解多卡选择、CPU 回退设置及 Linux 容器权限等高级用法,助您优化本地大模型运行性能。